书籍介绍

欢迎阅读《AI Engineering：大模型与智能体系统工程》。

这不是一本只介绍工具用法的书，而是一套面向软件工程师与架构师的 AI Engineering 知识体系。它关注一个更长期的问题：如何理解模型能力，如何稳定地生产和交付模型能力，以及如何把这些能力构建成可验证、可治理的应用系统。

全书沿着“理解模型能力 → 生产与交付能力 → 构建应用系统 → 评估与持续改进”的工程主线展开，覆盖大模型原理与算法、基础设施、Agent 系统、应用实战和前沿研究。Agent 是重要的应用系统形态，但不代表全书的全部范围。

全书工程主线图

本书按“大模型原理与算法 → 大模型基础设施 → Agent 系统工程 → Agent 应用与实战 → 前沿研究与工程展望”五部分展开。主线不是“学一堆工具名”，而是先理解模型能力如何形成，再理解模型如何被训练、部署、评估和治理，之后把模型放进可约束、可验证的应用与 Agent 运行环境，最后用真实案例和研究专题判断下一步能力边界。

flowchart LR
    A["第一部分：大模型算法<br/>原理 / 训练 / 推理 / 能力"] --> B["第二部分：大模型 Infra<br/>训练 / 推理 / 数据 / 治理"]
    B --> C["第三部分：Agent 工程<br/>Prompt / Context / Runtime"]
    C --> D["第四部分：Agent 应用与实战<br/>ALR 主线 / 产品专题"]
    D --> E["第五部分：前沿与研究<br/>Research Agent / 多模态 / 具身"]

本书解决什么问题

AI 工程实践里最容易踩的坑，不只是模型输出不稳定，也包括训练、推理、数据、评估和应用之间缺少清晰边界。我们把不清楚的意图、不完整的上下文、没有边界的工具和没有验证回路的流程交给模型，结果往往是第一版看起来很聪明，后续版本不断补洞并引入新问题。

本书的主线是把从模型能力到应用交付的过程，逐步收敛成可复用、可审查、可验证、可治理的工程系统。

除非章节需要讲解告警场景无法承载的领域机制，本书默认复用同一次虚构的 ALR 告警诊断运行：alert_id=ALR-20260429-017、run_id=run_0429_017、trace_label=trace_20260429_017，OpenTelemetry trace_id 示例为 4bf92f3577b34da6a3ce929d0e0e4736。对象是 prod 环境的 order-service，观察窗口为 2026-04-29 10:35–10:50（Asia/Shanghai），即 02:35Z–02:50Z。

10:35 完成的 deploy_8842 与 10:37 出现的异常只有时间先后关系；E12 记录的 P95 从 210ms 升到 2.1s 也只是待核验的指标候选，二者都不能直接写成根因。Runbook v1 已退役，v2 是早期部署说明，v3 是新部署的候选说明；当前适用版本由部署映射和 owner 核验，不按更新时间选择。典型质量失败是检索到不适用的旧 Runbook，把相似症状误写成数据库根因，且验证没有拦住。

这次运行的产物包括诊断报告、绑定报告草稿与资源版本的审批、跟进工单 INC-4821，以及独立记录的通知状态。若远端已经建单但本地回执丢失，恢复流程沿原 Operation 查询核验，不重新建单。Agent 只能做只读调查，并在有效审批后创建跟进工单；它没有重启、回滚或支付写入能力。

Coding Agent、企业知识助手、真实开源项目分析、训练故障、具身系统和研究 Agent 等案例只在确有教学必要时保留。它们首次出现时会说明偏离 ALR 的原因、适用范围，以及输入、证据、动作、状态和验收如何与 ALR 对照；这些局部案例不构成另一套全书标准。

读完之后，你应该能够回答六类问题：

模型边界：LLM 擅长什么、不擅长什么，这些边界如何影响系统设计？
能力交付：如何设计训练、推理、数据和评估基础设施，让模型能力稳定、经济地交付？
任务协议：如何通过 Prompt、结构化输出和 Context 降低任务歧义与输出漂移？
系统落地：如何通过 Harness、工具、知识、记忆和工作流构建 Agent Runtime？
生产治理：如何评估、监控、调试、回滚并持续优化一个 Agent 系统？
现实应用：如何把大模型与 Agent 用到编程、告警处理、企业知识、长期助手和研究任务中？

适合谁读

本书主要面向已经参与过真实软件项目的读者，包括后端工程师、AI 应用工程师、技术负责人，以及正在把 AI 编程或 Agent 系统引入团队流程的人。

你不需要是大模型研究员，但最好具备以下基础：

能读懂一种主流编程语言的代码示例；
理解 API、数据库、测试、日志、部署、权限等基本工程概念；
对 LLM、RAG、Agent、MCP、Evals 等术语有初步印象，遇到细节时愿意回查。

如果你刚开始接触 AI 工程，建议按章节顺序建立基础；如果你已经在团队里落地 Agent，则可以直接从第三部分的 Agent 架构、工具、知识系统和生产治理部分切入；如果你负责平台建设，则可以优先阅读第二部分。

内容结构

第一部分：大模型原理与算法

这一部分建立全书的模型基础：理解 LLM 的能力边界、训练与推理机制，以及模型能力如何影响系统设计。它回答“模型能做什么、不能做什么、工程上为什么不能把模型当成万能组件”。

章	章节	一句话概述
第1章	模型结构：一次前向计算的能力边界	从 token、Embedding 和 Transformer 出发，建立理解大模型算法与能力边界的基础。
第2章	预训练：能力的来源	解释预训练数据、目标函数、规模定律和模型能力形成之间的关系。
第3章	后训练：行为的塑形	介绍 SFT、RLHF、DPO、RLAIF 和安全对齐如何改变模型行为。
第4章	推理期扩展	讨论采样、推理预算、验证和生成算法如何影响模型输出。
第5章	从零训练一个 LLM：一条可复现的工程路径	把参数、数据、训练、恢复和评估连接成可复算、可验收的训练路径，并配套最小字符级 GPT 实验。
第6章	模型适配与能力扩展	介绍参数高效微调、模型压缩和多模态模型算法。
第7章	具身智能与 Physical AI	介绍世界模型与具身智能的关系，理解“会说”如何走向“会做”。

第二部分：大模型基础设施

这一部分把算法模型放进真实系统，覆盖资源模型、训练、推理、数据评估、可靠性与治理。它回答“模型如何稳定训练、低延迟服务、持续评估，并在故障、成本和安全约束下长期运行”。

章	章节	一句话概述
第8章	AI Infra 全景	建立从算法结果到可运行平台的资源、生命周期和验收边界。
第9章	训练平台与数据管线	说明数据供给、并行训练、通信、恢复和训练制品如何形成闭环。
第10章	推理服务与资源调度	解释在线推理的请求调度、KV 管理、模型并行、容量和发布。
第11章	评估与反馈闭环	建立数据版本、评估、线上反馈和质量门禁的证据链。
第12章	生产运营与治理控制	连接 SLO、观测、成本、安全、供应链、发布和灾备。

第三部分：Agent 系统工程

这一部分讨论如何把大模型组装为真正可运行、可恢复、可治理的 Agent 系统。基础设施章节关注平台如何提供运行能力；本部分关注任务协议、上下文、Harness、模型协议、工具、知识、记忆、编排和行动控制如何共同形成应用级 Runtime。

章	章节	一句话概述
第13章	LLM API 协议：模型能力如何被系统消费	把模型接口当成系统契约来设计，而不是只看一次调用是否成功。
第14章	Agent 的上下文工程：从任务协议到知识与记忆	定义任务契约、证据与记忆的使用规则，以及本轮上下文的装配、压缩和评估。
第15章	外部知识系统：知识检索与 RAG	摄取、表示、索引、混合召回、多跳检索、证据与评估。
第16章	外部工具系统：Skills、Tools、MCP 与 Connectors	从能力提供方构建工具契约与注册、Skills、MCP、Connectors、授权和沙箱。
第17章	Agent Runtime：架构、执行编排与可靠性工程	消费模型、知识与工具契约，逐轮推进任务，并处理等待、审批、恢复与交付。
第18章	Agent 治理与调优：从质量闭环到分层落地	把评估、护栏、观测与发布连成闭环，分层调优 Runtime、Skill、MCP、上下文与成本。

第四部分：Agent 应用与实战

这一部分将前面三部分的能力放到现实工作中：先拆解成熟产品，再落到企业和个人任务。它关心的是“如何用大模型与 Agent 完成一项可交付、可验证、可治理的真实工作”。

章	章节	一句话概述
第19章	成熟 Coding Agent 内部实现：Codex CLI、Claude Code 与 OpenCode	先建立共通执行闭环，再从公开源码和官方文档比较三种产品的实现边界。
第20章	Pi Agent 架构解析：终端原生 Coding Agent Runtime、扩展系统与上下文工程	分析一个终端原生 Coding Agent 如何组织运行时、扩展和上下文。
第21章	OpenClaw 架构解析：个人 AI 助手的 Gateway、Runtime 与工具生态	讲述个人 AI 助手如何通过 Gateway、Runtime 和工具生态协同工作。
第22章	Hermes Agent 架构解析：长期运行、自我进化与多入口 Agent Runtime	通过记忆、Skill、多入口和版本化源码理解长期运行；教学扩展与已核验能力分别说明。

第五部分：前沿研究与工程展望

这一部分讨论工程实践之外仍在快速演化的前沿问题。它不局限于 Research Agent，后续可扩展到多模态、具身智能、长期学习和世界模型等专题。

章	章节	一句话概述
第25章	AI 智能体研究现状、工程瓶颈与未来理想能力架构报告	从研究和工程两条线梳理智能体的现状、瓶颈与未来方向。

附录

附录只保留 A：术语与符号速查、B：学习路径与延伸阅读、C：工具、框架与版本导航。章末练习由附录 B 提供短链接，论点来源以各章末参考资料为准。

贯穿案例与练习的阅读方式

全书包含五部分、23 个公开章节。ALR 告警诊断是默认贯穿案例；其他案例只在领域对象无法由 ALR 替代或必须核验真实产品机制时局部使用：

案例类型	先建立机制	使用范围	重点核对
ALR 默认主线	上下文工程、知识检索、Runtime、工具系统与治理	能承载任务协议、证据、工具、状态、恢复和评估的章节	身份、窗口、候选证据、Runbook 版本、审批、`INC-4821` 与能力边界一致
Coding Agent 特殊案例	通用 Context、Tool、Runtime 与 Verifier 机制	成熟 Coding Agent 的实现与 Harness	仅用于代码制品、patch 和测试；与 ALR 的输入、证据、动作、状态和验收显式对照
Pi、OpenClaw、Hermes 产品专题	Runtime 状态、记忆生命周期与治理控制	第 20–22 章的固定版本源码/文档核验	区分产品事实、本书推导和教学扩展；涉及告警时回到 ALR 标准
研究与算法特殊案例	模型、Infra 和证据机制	对应算法、训练、具身或研究章节	说明 ALR 不适用原因与局部范围，不扩展成平行主线

章节包含原理推导、文档核验、教学轨迹与实验设计，验收层次分别标明。模型基础、后训练、模型适配、训练平台与推理服务的练习卡可从附录B进入；卡片完成不代表已经提供完整可运行代码、GPU测量或生产验证。选型先查附录C的版本和未知项，再回到章末原始来源。

与工程面试题库配合阅读

本书也可作为 AI 与 AI Agent 工程面试题库的原理与设计参考。题库保留每题的章节、小节链接、覆盖状态与缺口原因；本书按模型能力、基础设施和应用系统组织论证，不复制另一套逐题答案。定位以活动目录中的正文为准，归档材料、论文名或工具名本身不算覆盖。

“已覆盖”表示书中能找到主要原理和设计依据，可以组合相邻章节回答；它不表示已提供所有 SDK 的最新实现、个人项目经历或生产性能数据。“部分覆盖”会说明缺少的实现、实测或完整领域案例。阅读时应区分以下边界：

题目类型	本书承担的内容	需要另外完成的部分
模型、Agent、RAG 与生产治理	机制、约束、选型、失败语义与验证方法	将具体业务规模和环境代入，并补充真实证据
Attention、SFT Loss、校准与 CUDA 手写	公式、输入输出、边界与练习验收卡	完整代码、编译、执行与硬件测试；练习卡不等于参考实现
产品比较、Qdrant 性能及模型格式部署	职责分层、版本化核验与受控比较方法	同版本、同质量、同硬件的实测；不提供永久排名
客服、报告与漫剧扩展	通用机制与明确标注的短案例或产物工作流	完整领域平台及专用后端实现；短案例不等于端到端交付
K-means、CSV 读取与基础 MLP 手写	仅保留索引聚类、FFN 等相关背景	属于通用机器学习编程入门，不为题量扩张本书主线；保留题库原解答

书中案例与练习没有运行证据时，保持“教学设计”或“未实测”标识。外部接口、模型卡与硬件支持仍须核验具体版本；用户自己的经历不能用书稿案例代替。

在线阅读

GitHub Pages：https://wxquare.github.io/ai-book/
源码仓库：https://github.com/wxquare/wxquare.github.io

反馈与贡献

欢迎通过 Issue、Pull Request 或博客留言提供反馈。尤其欢迎三类反馈：

哪些章节读起来跳跃，缺少承上启下；
哪些代码或架构图难以复现；
哪些工具、模型或最佳实践已经过时。

版本信息

当前版本：v1.0
发布日期：2026 年 4 月
本轮编辑复核：2026 年 10 月 18 日；来源核验日期按各章记录，不代表所有产品当天重新测试。
更新计划：持续更新，优先深化大模型基础、AI 基础设施、Agent 运行时、成熟系统解析、案例、评估体系和生产治理实践。

Keyboard shortcuts

AI Engineering：大模型与智能体系统工程