书籍介绍
欢迎阅读《AI Engineering：大模型与智能体系统工程》。
这不是一本只介绍工具用法的书，而是一套面向软件工程师与架构师的 AI Engineering 知识体系。它关注一个更长期的问题：如何理解模型能力，如何稳定地生产和交付模型能力，以及如何把这些能力构建成可验证、可治理的应用系统。
全书沿着“理解模型能力 → 生产与交付能力 → 构建应用系统 → 评估与持续改进”的工程主线展开，覆盖大模型原理与算法、基础设施、Agent 系统、应用实战和前沿研究。Agent 是重要的应用系统形态，但不代表全书的全部范围。
全书工程主线图
本书按“大模型原理与算法 → 大模型基础设施 → Agent 系统工程 → Agent 应用与实战 → 前沿研究与工程展望”五部分展开。主线不是“学一堆工具名”，而是先理解模型能力如何形成，再理解模型如何被训练、部署、评估和治理，之后把模型放进可约束、可验证的应用与 Agent 运行环境，最后用真实案例和研究专题判断下一步能力边界。
flowchart LR
A["第一部分：大模型算法<br/>原理 / 训练 / 推理 / 能力"] --> B["第二部分：大模型 Infra<br/>训练 / 推理 / 数据 / 治理"]
B --> C["第三部分：Agent 工程<br/>Prompt / Context / Runtime"]
C --> D["第四部分：Agent 应用与实战<br/>Coding / 企业知识 / Hermes"]
D --> E["第五部分：前沿与研究<br/>Research Agent / 多模态 / 具身"]
本书解决什么问题
AI 工程实践里最容易踩的坑，不只是模型输出不稳定，也包括训练、推理、数据、评估和应用之间缺少清晰边界。我们把不清楚的意图、不完整的上下文、没有边界的工具和没有验证回路的流程交给模型，结果往往是第一版看起来很聪明，后续版本不断补洞并引入新问题。
本书的主线是把从模型能力到应用交付的过程，逐步收敛成可复用、可审查、可验证、可治理的工程系统。
读完之后，你应该能够回答六类问题：
- 模型边界：LLM 擅长什么、不擅长什么，这些边界如何影响系统设计？
- 能力交付：如何设计训练、推理、数据和评估基础设施，让模型能力稳定、经济地交付？
- 任务协议：如何通过 Prompt、结构化输出和 Context 降低任务歧义与输出漂移？
- 系统落地：如何通过 Harness、工具、知识、记忆和工作流构建 Agent Runtime？
- 生产治理：如何评估、监控、调试、回滚并持续优化一个 Agent 系统？
- 现实应用：如何把大模型与 Agent 用到编程、告警处理、企业知识、个人知识管理和研究任务中？
适合谁读
本书主要面向已经参与过真实软件项目的读者，包括后端工程师、AI 应用工程师、技术负责人，以及正在把 AI 编程或 Agent 系统引入团队流程的人。
你不需要是大模型研究员，但最好具备以下基础：
- 能读懂一种主流编程语言的代码示例；
- 理解 API、数据库、测试、日志、部署、权限等基本工程概念；
- 对 LLM、RAG、Agent、MCP、Evals 等术语有初步印象，遇到细节时愿意回查。
如果你刚开始接触 AI 工程，建议按章节顺序建立基础；如果你已经在团队里落地 Agent，则可以直接从第三部分的 Agent 架构、工具、知识系统和生产治理部分切入；如果你负责平台建设，则可以优先阅读第二部分。
内容结构
第一部分：大模型原理与算法
这一部分建立全书的模型基础：理解 LLM 的能力边界、训练与推理机制，以及模型能力如何影响系统设计。它回答“模型能做什么、不能做什么、工程上为什么不能把模型当成万能组件”。
| 章 | 章节 | 一句话概述 |
|---|---|---|
| 第1章 | 从 Transformer 到 Agent：模型结构如何影响系统能力 | 从 token、Embedding 和 Transformer 出发，建立理解大模型算法与能力边界的基础。 |
| 第2章 | 预训练：能力的来源 | 解释预训练数据、目标函数、规模定律和模型能力形成之间的关系。 |
| 第3章 | 后训练：行为的塑形 | 介绍 SFT、RLHF、DPO、RLAIF 和安全对齐如何改变模型行为。 |
| 第4章 | 推理期扩展 | 讨论采样、推理预算、验证和生成算法如何影响模型输出。 |
| 第5章 | 模型适配与能力扩展 | 介绍参数高效微调、模型压缩和多模态模型算法。 |
| 第6章 | 具身智能与 Physical AI | 介绍世界模型与具身智能的关系，理解“会说”如何走向“会做”。 |
第二部分：大模型基础设施
这一部分把算法模型放进真实系统，覆盖资源模型、训练、推理、数据评估、运行时、可靠性与治理。它回答“模型如何稳定训练、低延迟服务、持续评估，并在故障、成本和安全约束下长期运行”。
| 章 | 章节 | 一句话概述 |
|---|---|---|
| 第7章 | AI Infra 全景 | 建立从算法结果到可运行平台的资源、生命周期和验收边界。 |
| 第8章 | 训练平台与数据管线 | 说明数据供给、并行训练、通信、恢复和训练制品如何形成闭环。 |
| 第9章 | 推理服务与资源调度 | 解释在线推理的请求调度、KV 管理、模型并行、容量和发布。 |
| 第10章 | 评估与反馈闭环 | 建立数据版本、评估、线上反馈和质量门禁的证据链。 |
| 第11章 | Agent Runtime | 讨论任务状态、工具、工作流、租户、重试、补偿和人工接管。 |
| 第12章 | 生产运营与治理控制 | 连接 SLO、观测、成本、安全、供应链、发布和灾备。 |
第三部分：Agent 系统工程
这一部分讨论如何把大模型组装为真正可运行、可恢复、可治理的 Agent 系统。基础设施章节关注平台如何提供运行能力；本部分关注任务协议、上下文、Harness、模型协议、工具、知识、记忆、编排和行动控制如何共同形成应用级 Runtime。
| 章 | 章节 | 一句话概述 |
|---|---|---|
| 第13章 | Agent 的演化与架构总纲：从对话应用到可治理 Runtime | 说明 Agent 为什么不是简单聊天框，而是需要被治理的运行时系统。 |
| 第14章 | Prompt Engineering 与结构化输出：从提示词到任务协议 | 把提示词升级成可执行的任务协议，让输入和输出更稳定。 |
| 第15章 | Context Engineering：从上下文注入到信息架构 | 讲清上下文如何组织、压缩和注入，决定 Agent 的认知上限。 |
| 第16章 | Harness Engineering：从模型调用到 Agent 运行环境 | 构建模型之外的执行外壳，负责控制、状态、权限和失败处理。 |
| 第17章 | LLM API 协议：模型能力如何被系统消费 | 把模型接口当成系统契约来设计，而不是只看一次调用是否成功。 |
| 第18章 | Agent 工具系统工程：Tool Calling、Skills 与 MCP | 说明工具如何成为 Agent 的手脚，以及如何安全、可扩展地接入工具。 |
| 第19章 | Agent 知识系统：从知识源到可验证证据 | 介绍知识检索与增强生成的系统化做法，让 Agent 知道去哪找答案。 |
| 第20章 | Agent 记忆系统：Memory、会话与长期上下文 | 讨论记忆如何跨会话保存、更新和检索，支撑长期协作。 |
| 第21章 | 执行编排与多 Agent 协作：任务图、交接与平台边界 | 说明任务如何被拆解、编排和调度成稳定的执行流程。 |
| 第22章 | Agent 生产治理：Evals、Guardrails 与可观测性 | 把评估、约束和可观测性连成闭环，保证系统可用、可控、可迭代。 |
第四部分：Agent 应用与实战
这一部分将前面三部分的能力放到现实工作中：先拆解成熟产品，再落到企业和个人任务。它关心的是“如何用大模型与 Agent 完成一项可交付、可验证、可治理的真实工作”。
| 章 | 章节 | 一句话概述 |
|---|---|---|
| 第23章 | AI Coding Agent 系统解析：从工作协议到 Harness 工程 | 从系统视角拆解 Coding Agent，理解它为什么能帮人写代码。 |
| 第24章 | 企业知识助手：RAG、搜索、权限与知识治理落地实践 | 展示企业知识助手如何把检索、权限和知识治理真正结合起来。 |
| 第25章 | Pi Agent 架构解析：终端原生 Coding Agent Runtime、扩展系统与上下文工程 | 分析一个终端原生 Coding Agent 如何组织运行时、扩展和上下文。 |
| 第26章 | OpenClaw 架构解析：个人 AI 助手的 Gateway、Runtime 与工具生态 | 讲述个人 AI 助手如何通过 Gateway、Runtime 和工具生态协同工作。 |
| 第27章 | Hermes Agent 架构解析：长期运行、自我进化与多入口 Agent Runtime | 通过记忆、Skill、多入口和版本化源码理解长期运行；教学扩展与已核验能力分别说明。 |
| 第29章 | 从零实现一个可观测 Coding Agent | 通过一个不附带配套源码的讲解性案例，展示 Coding Agent 的上下文、工具、权限、验证、观测与扩展方法。 |
| 第30章 | 个人知识管理 Agent 实践 | 说明个人知识管理如何借助 RAG、记忆和工作流形成闭环。 |
| 第31章 | 持续进化的生活 Agent：从日常反馈到可信能力闭环 | 讨论生活 Agent 如何在反馈、审批和回滚中安全地持续进化。 |
第五部分：前沿研究与工程展望
这一部分讨论工程实践之外仍在快速演化的前沿问题。它不局限于 Research Agent，后续可扩展到多模态、具身智能、长期学习和世界模型等专题。
| 章 | 章节 | 一句话概述 |
|---|---|---|
| 第32章 | AI 智能体研究现状、工程瓶颈与未来理想能力架构报告 | 从研究和工程两条线梳理智能体的现状、瓶颈与未来方向。 |
附录
附录只保留 A：术语与符号速查、B：学习路径与延伸阅读、C：工具、框架与版本导航。章末练习由附录 B 提供短链接，论点来源以各章末参考资料为准。
贯穿案例与练习的阅读方式
全书保留五部分、31 个公开章节，沿用原编号与源码路径，编号不连续处不重排。三个教学案例分别检验不同责任边界：
| 案例 | 先建立机制 | 再看应用 | 重点核对 |
|---|---|---|---|
| 企业知识助手 | 第19章知识系统 | 第24章企业案例 | 摄取/检索/证据/回答分层，动态商品事实、视频定位、ACL与删除失效 |
| Coding Agent | 第15章上下文、第18章工具 | 第23章产品与Harness、第29章最小案例 | 代码版本、工作区、工具权限、候选完成与独立Verifier |
| Hermes 长期助手 | 第11章状态、第20章记忆、第21章编排 | 第27章贯穿简报 | Session、Memory、缓存与特定投递ledger分别取证；通用业务Outbox、Checkpoint、幂等和补偿是另行标明的教学扩展 |
章节包含原理推导、文档核验、教学轨迹与实验设计，验收层次分别标明。第1/3/5/8/9章的练习卡可从附录B进入；卡片完成不代表已经提供完整可运行代码、GPU测量或生产验证。选型先查附录C的版本和未知项，再回到章末原始来源。
与工程面试题库配合阅读
本书也可作为 AI 与 AI Agent 工程面试题库的原理与设计参考。题库保留每题的章节、小节链接、覆盖状态与缺口原因；本书按模型能力、基础设施和应用系统组织论证，不复制另一套逐题答案。定位以活动目录中的正文为准，归档材料、论文名或工具名本身不算覆盖。
“已覆盖”表示书中能找到主要原理和设计依据，可以组合相邻章节回答；它不表示已提供所有 SDK 的最新实现、个人项目经历或生产性能数据。“部分覆盖”会说明缺少的实现、实测或完整领域案例。阅读时应区分以下边界：
| 题目类型 | 本书承担的内容 | 需要另外完成的部分 |
|---|---|---|
| 模型、Agent、RAG 与生产治理 | 机制、约束、选型、失败语义与验证方法 | 将具体业务规模和环境代入，并补充真实证据 |
| Attention、SFT Loss、校准与 CUDA 手写 | 公式、输入输出、边界与练习验收卡 | 完整代码、编译、执行与硬件测试；练习卡不等于参考实现 |
| 产品比较、Qdrant 性能及模型格式部署 | 职责分层、版本化核验与受控比较方法 | 同版本、同质量、同硬件的实测；不提供永久排名 |
| 客服、报告与漫剧扩展 | 通用机制与明确标注的短案例或产物工作流 | 完整领域平台及专用后端实现；短案例不等于端到端交付 |
| K-means、CSV 读取与基础 MLP 手写 | 仅保留索引聚类、FFN 等相关背景 | 属于通用机器学习编程入门，不为题量扩张本书主线；保留题库原解答 |
书中案例与练习没有运行证据时，保持“教学设计”或“未实测”标识。外部接口、模型卡与硬件支持仍须核验具体版本；用户自己的经历不能用书稿案例代替。
在线阅读
- GitHub Pages：https://wxquare.github.io/ai-book/
- 源码仓库：https://github.com/wxquare/wxquare.github.io
反馈与贡献
欢迎通过 Issue、Pull Request 或博客留言提供反馈。尤其欢迎三类反馈：
- 哪些章节读起来跳跃，缺少承上启下；
- 哪些代码或架构图难以复现；
- 哪些工具、模型或最佳实践已经过时。
版本信息
- 当前版本：v1.0
- 发布日期：2026 年 4 月
- 本轮编辑复核：2026 年 10 月 18 日；来源核验日期按各章记录，不代表所有产品当天重新测试。
- 更新计划：持续更新，优先深化大模型基础、AI 基础设施、Agent 运行时、成熟系统解析、案例、评估体系和生产治理实践。