Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

附录C 工具、框架与版本导航

本附录提供候选入口和选型记录,具体机制以责任章和其章末来源为准。表中的“核验”指公开文档/源码所支持的限定范围,没有运行兼容性、生产负载或价格测试。“滚动文档”不是已安装包版本;落地时须另锁包版本、模型、端点、配置、权限和工作负载。未知表示没有足够证据,不等于不支持。

已有正文依据的分层目录

工具/协议层次与已核验能力范围版本/日期原始来源仍需验证的边界
OpenAI API / 模型 SDK模型请求与工具配置;应用仍需处理自定义工具执行与状态滚动官方文档;2026-10-18Using tools;LLM API 协议具体模型/工具/区域/账户可用性、SDK 版本和费用未知
Anthropic 模型 SDK消息、流和工具的供应商适配入口LLM API 协议核验;2026-10-18API 文档不由模型 SDK 推出持久任务、审批或业务幂等
OpenAI Agents SDK代码式 Agent 循环、工具和交接Agent Runtime说明执行职责;滚动文档,2026-10-17官方 SDK 指南应用自己的状态、工具实现及部署保证需另验
Claude Agent SDK嵌入 Coding 循环、工具与上下文能力Agent Runtime核验;滚动文档,2026-10-18官方概览进程、工作区、凭据与权限边界
LangChain / LangGraph高层 Agent 抽象 / 显式状态图和 checkpoint 组合Agent Runtime核验;滚动文档,2026-10-17–18LangChain、Persistence内存 saver 不证明重启恢复;业务幂等由应用承担
AutoGen Core / Microsoft Agent Framework异步消息执行 / Agent 与 Workflow 抽象Agent Runtime核验;stable/滚动文档,2026-10-18Core、Framework分布式存储、owner、取消和重复副作用
MCPHost/Client/Server 能力连接协议固定版本、核验日期与迁移差异统一见第 16 章版本边界该节及章末列出的版本化规范不混用不同版本的发现、授权和传输语义;发现不等于授权
A2A独立 Agent 的任务、消息与产物协议Agent Runtime;v0.3.0,非“最新版”承诺版本化规范本书未实现或测试兼容;自建消息不是兼容证明
vLLM推理执行、调度和 KV 管理参考推理服务与资源调度核验;V1 缓存设计/滚动文档,2026-10-17APC、设计具体模型、量化、GPU 与 shape 的支持及收益
Triton 语言GPU 计算程序与算子层训练平台与数据管线核验;main 文档,2026-10-17语言介绍生成 kernel 的正确性与性能未实测
Triton Inference Server模型仓库、版本与服务生命周期推理服务与资源调度核验;滚动文档,2026-10-17Model Management不是 Triton 语言;模型后端能力分别核验
Claude Code / Cursor / Codex终端、IDE、本地/云任务产品形态Coding Agent 系统核验;滚动文档,2026-10-18原始产品文档及限定论点见Coding Agent 系统参考资料无永久优劣榜;功能、套餐与本机开关分别核验
Codex CLI / Claude Code / OpenCodeCoding Agent 执行循环、上下文、工具、权限与证据边界Coding Agent 系统;源码/官方滚动文档,2026-10-22机制与来源映射见Coding Agent 系统参考资料;OpenCode 按 V2 核验Codex CLI 与 OpenCode 有公开源码;Claude Code 核心闭源;版本和入口需分别核验
Pi终端 Runtime 与 SDK、扩展及会话资源Pi Agent 系统核验;2026-10-18Pi SDK;具体包与来源见该章以该章 @earendil-works 命名空间与 ModelRuntime 为准;不外推旧 SDK 示例
OpenClawGateway、自有 Runtime、工具和会话历史提交 62cb03ac7a95f4b9cb435f8efc57f4034ba2649b;2026-10-18固定源码;OpenClaw 系统活动历史与旧 JSONL 区分;profile 不自动提供隔离
Hermes入口、Memory、Skill、delegate 与限定投递记录提交 18c525b669b6ea4ba62e6967d228af21d89aa9d3;2026-10-18固定源码;Hermes Agent 系统特定 Gateway 投递 ledger 不证明任意业务 Outbox/Checkpoint/补偿;教学扩展单列

AI Infra 组件状态表

本表服务第 7 章的分层地图。状态只表示 2026-10-25 打开官方页面时可观察到的事实,不承诺未来维护;许可证以仓库 LICENSE 为准,正式引入时必须锁定 release 或 commit 并再次核对依赖许可证。

组件角色版本/提交口径许可证维护状态硬件/模型限制原始来源证据类型
PyTorch FSDP训练参数、梯度和优化器状态分片2.9 文档BSD-3-Clause官方文档可访问后端、拓扑和预取策略需实测FSDP 论文论文+官方文档
DeepSpeedZeRO、pipeline 与训练运行时滚动仓库;引入时锁 commitApache-2.0仓库可访问offload、并行组合和硬件收益需实测DeepSpeed官方仓库
Megatron-LM大模型张量/流水线/数据并行滚动仓库;引入时锁 commit仓库 LICENSE仓库可访问模型结构、拓扑和 checkpoint 格式需核验Megatron-LM论文+官方仓库
NCCLGPU collective 通信2.32.3 文档BSD-3-Clause官方文档可访问CUDA、GPU、网络与拓扑组合需核验Collectives官方版本化文档
vLLM推理执行、continuous batching 与 KV 管理滚动仓库;引入时锁 releaseApache-2.0仓库可访问模型、量化、GPU 与 shape 支持按 release 核对vLLM论文+官方仓库
TGI推理服务实现参考核验日 README/仓库元数据Apache-2.0README 表述为维护模式;不等同归档后续功能、模型与硬件支持按固定 revision 核对TGI官方仓库
Triton Inference Server模型仓库与实例生命周期滚动官方文档BSD-3-Clause官方文档可访问后端能力和模型支持分别核验Model Management官方文档
FlashAttentionIO-aware attention kernel论文与仓库版本分别锁定BSD-3-Clause论文/仓库可访问GPU 代际、dtype、head dim 和 mask 支持按 release 核对FlashAttention论文+官方仓库
DeepEPMoE dispatch/combine 通信库2026-10-25 仓库所见;锁 commit 后使用仓库 LICENSE仓库可访问硬件、NVSHMEM/网络和 API 边界按固定 commit 核对DeepEP官方仓库
FlashMLAMLA decode/prefill kernel2026-10-25 仓库所见;锁 commit 后使用仓库 LICENSE仓库可访问支持矩阵版本敏感,不在正文承诺永久硬件范围FlashMLA官方仓库
3FS训练读取、checkpoint 与缓存存储2026-10-25 仓库所见;锁 commit 后使用仓库 LICENSE仓库可访问部署拓扑、一致性和容量需独立验证3FS论文/README+官方仓库
smallpond3FS 上的数据处理框架2026-10-25 仓库所见;锁 commit 后使用仓库 LICENSE仓库可访问依赖 3FS 的部署与数据算子覆盖需核验smallpond官方仓库

其他候选入口

以下承接原工具清单,仅保留检索入口,没有在本批核验版本和功能支持。各行版本、核验日期和兼容状态统一为未知;不得把分类当作配置建议、许可证结论或性能推荐。

调研目的原始入口需补的版本、日期与能力证据
模型 API 与 EmbeddingGemini、Cohere、Voyage AI、Sentence Transformers精确模型与 revision、维度、tokenizer、非对称编码、限额与定价:未知
本地模型工作台Ollama、LM Studio版本、模型格式、工具协议与硬件组合:未知
数据/RAG 框架LlamaIndex、Semantic Kernel、AutoGPT具体 API、持久性、权限和恢复边界:未知
向量检索存储Chroma、Pinecone、Weaviate、Milvus、Zilliz、Qdrant、pgvector索引、过滤、删除一致性、量级、HA 与费用:未知;按知识检索与 RAG及Hermes Agent 系统的方法实验
Coding 辅助产品Copilot、Cline、Trae版本、权限、执行模式、工作区和价格:未知;不能套用其他产品结论
个人知识工作台Obsidian、Notion、Logseq插件/同步/导出、ACL 与数据生命周期:未知;插件单独核验
观测与评估LangSmith、Helicone、Weights & Biases、Braintrust、Promptfoo采样、脱敏、留存、数据驻留、评估与计费能力:未知
托管与执行平台Replicate、Modal、Together AI镜像、GPU、扩缩容、数据路径、配额与费用:未知

一次选型的最小记录

先给出任务、质量底线、数据权限和故障模型,再选择所在层;不要按团队大小直接绑定某个产品。模型 SDK、Agent SDK、图运行时、IDE/CLI 产品与托管平台可以组合,但重试、状态、取消、预算和完成判定必须各有一个明确责任方。

记录产品/包/模型版本、官方来源与日期、已验证能力、未知项、权限范围、输入输出协议、依赖版本及固定回归集。运行时另测断线、重启、重复投递、撤权、部分输出与回滚;计费按当日模型和合同逐项核对输入、输出、缓存、工具、存储与失败重试,不沿用固定单价。只有文档支持而未运行的能力仍标为“文档核验”,实验数据另附环境与证据。