学习笔记
来自阅读《人工智能工程》的读者的笔记。如果您曾公开分享过关于本书的笔记，欢迎提交 PR 将其添加到这里。谢谢！

Alex Strick van Linschoten为这本书做了非常棒的逐章笔记。以下是其中的一些笔记。
第六章：RAG和特工
第七章：微调
第九章：推理优化
第十章：人工智能工程架构和用户反馈
李柳读书俱乐部：于2025年2月8日开始，每周举行一次会议。
AI from Scratch读书会：始于2025年2月16日。
索托牧师关于人工智能工程的笔记
我还在收集人工智能工程读书会和课程中的讨论话题。欢迎提交 PR 添加你的话题。谢谢！

本书提供了一个框架，用于将基础模型（包括大型语言模型 (LLM) 和大型多模态模型 (LMM)）应用于特定应用。它不仅概述了构建人工智能应用的各种解决方案，还提出了一些问题，帮助您评估最适合自身需求的解决方案。以下列举了本书可以帮助您解答的部分问题：

1. 我应该开发这个人工智能应用程序吗？
2. 我该如何评估我的应用程序？我可以使用人工智能来评估人工智能的输出结果吗？
3. 幻觉的成因是什么？如何检测和缓解幻觉？
4. 快速工程的最佳实践是什么？
5. RAG（红绿灯）系统为何有效？实施 RAG 系统有哪些策略？
6. 什么是代理？如何构建和评估代理？
7. 何时需要对模型进行微调？何时不需要对模型进行微调？
8. 我需要多少数据？如何验证数据的质量？
9. 如何让我的模型运行速度更快、成本更低、安全性更高？
10. 如何建立反馈循环以持续改进我的应用程序？

本书还将帮助您了解纷繁复杂的 AI 领域：模型类型、评估基准以及看似无穷无尽的用例和应用模式。

本书内容以真实案例研究为例进行说明，其中许多案例都是我亲自参与的，并辅以大量参考文献，且经过来自不同领域的专家广泛审阅。尽管本书耗时两年完成，但它汲取了我过去十年在语言模型和机器学习系统方面的工作经验。

与我的前作《设计机器学习系统》（DMLS）一样，本书侧重于人工智能工程的基础知识，而非任何特定的工具或API。工具很快就会过时，但基础知识却能长久保存。

AIE 可以作为 DMLS 的补充。DMLS 侧重于在传统机器学习模型之上构建应用程序，这涉及更多表格数据标注、特征工程和模型训练。AIE 则侧重于在基础模型之上构建应用程序，这涉及更多快速工程、上下文构建和参数高效的微调。两本书内容独立且模块化，因此您可以单独阅读其中任何一本。

由于基础模型是机器学习模型，因此某些概念在两者中都适用。如果某个主题与人工智能工程 (AIE) 相关，但在数据管理逻辑系统 (DMLS) 中已得到充分讨论，本书仍会涉及该主题，但篇幅会相应减少，并提供相关资源的链接。

请注意，DMLS涵盖了许多AIE未涉及的主题，反之亦然。本书第一章也介绍了传统机器学习工程和人工智能工程之间的区别。

现实世界的系统通常同时涉及传统的机器学习模型和基础模型，因此通常需要了解如何使用这两种模型。

本书面向所有希望利用基础模型解决实际问题的人士。这是一本技术书籍，因此其语言风格面向技术人员，包括人工智能工程师、机器学习工程师、数据科学家、工程经理和技术产品经理。如果您遇到以下任一情况，那么本书非常适合您：

• 无论您是从零开始构建还是希望从演示阶段过渡到生产就绪阶段，如果您正在构建或优化人工智能应用程序，您可能还会面临诸如幻觉、安全、延迟或成本等问题，并需要针对性的解决方案。
• 你想简化团队的 AI 开发流程，使其更加系统化、快速和可靠。
• 你想了解你的组织如何利用基础模型来改善企业的盈利状况，以及如何组建团队来实现这一目标。

如果您属于以下群体之一，您也可以从本书中受益：

• 工具开发者希望识别人工智能工程领域服务不足的领域，以便在生态系统中定位自己的产品。
• 希望更好地了解人工智能应用案例的研究人员。
• 求职者希望明确成为人工智能工程师所需的技能。
• 任何想要更好地了解人工智能的能力和局限性，以及它可能如何影响不同角色的人。

我喜欢探究事物的本质，所以有些章节会深入探讨一些技术细节。虽然很多早期读者喜欢这种细节，但我知道这可能并不适合所有人。在内容变得过于技术化之前，我会提前提醒一下。如果感觉有点过于繁琐，可以随时跳过！

• “本书全面、结构清晰地指导了构建生成式人工智能系统的关键要素。对于任何希望在企业范围内扩展人工智能的专业人士来说，本书都是必读之作。” ——维托里奥·克雷特拉，宝洁和玛氏前全球首席信息官

• “Chip Huyen 深谙生成式人工智能之道。她是一位杰出的教师和作家，其著作对帮助团队将人工智能投入生产起到了至关重要的作用。凭借其深厚的专业知识，《人工智能工程》一书全面而系统地指导读者如何在生产环境中构建生成式人工智能应用。” ——Luke Metz，ChatGPT 联合创始人，前 OpenAI 研究经理

• “每一位构建实际应用的AI工程师都应该阅读这本书。它是一本至关重要的端到端AI系统设计指南，涵盖了从模型开发和评估到大规模部署和运维的各个环节。” ——安德烈·洛帕坚科，Neuron7搜索与AI总监

• “本书是构建可扩展人工智能产品的必备指南。与其他专注于工具或瞬息万变的当前趋势的书籍不同，奇普提供的是永不过时的基础知识。无论您是产品经理还是工程师，本书都能有效地弥合跨职能团队之间的协作鸿沟，因此对于任何参与人工智能开发的人员来说，它都是一本必读之作。” ——谷歌人工智能产品运营经理艾琳·布伊

• “这是机器学习工程领域一位杰出人物撰写的人工智能工程入门指南！Chip 在公司各个阶段都参与过成功的项目和职业生涯，她首次将自己的专业知识浓缩成册，献给即将进入人工智能领域的新工程师。” ——swyx，《AI.Engineer》策展人

• “《人工智能工程》是一本实用指南，提供了关于人工智能开发的最新信息，无论是新手还是专家都能轻松上手。对于任何希望构建强大且可扩展的人工智能系统的人来说，本书都是必备资源。” ——维姬·雷泽尔曼，Mave Sparks首席人工智能解决方案架构师

• “《人工智能工程》是一本全面的指南，对于理解和在实践中实施人工智能系统而言，都是一本重要的参考书。” ——穆迪数据科学总监韩李

• “《人工智能工程》是所有使用生成式人工智能构建软件的人的必备指南！它揭开了这项技术的神秘面纱，强调了评估的重要性，并分享了在开始耗费大量成本的微调之前，应该如何确保质量。” ——Rafal Kawala，高级人工智能工程总监，拥有16年财富500强公司工作经验