附录C 工具、框架与版本导航
本附录提供候选入口和选型记录,具体机制以责任章和其章末来源为准。表中的“核验”指公开文档/源码所支持的限定范围,没有运行兼容性、生产负载或价格测试。“滚动文档”不是已安装包版本;落地时须另锁包版本、模型、端点、配置、权限和工作负载。未知表示没有足够证据,不等于不支持。
已有正文依据的分层目录
| 工具/协议 | 层次与已核验能力范围 | 版本/日期 | 原始来源 | 仍需验证的边界 |
|---|---|---|---|---|
| OpenAI API / 模型 SDK | 模型请求与工具配置;应用仍需处理自定义工具执行与状态 | 滚动官方文档;2026-10-18 | Using tools;LLM API 协议 | 具体模型/工具/区域/账户可用性、SDK 版本和费用未知 |
| Anthropic 模型 SDK | 消息、流和工具的供应商适配入口 | LLM API 协议核验;2026-10-18 | API 文档 | 不由模型 SDK 推出持久任务、审批或业务幂等 |
| OpenAI Agents SDK | 代码式 Agent 循环、工具和交接 | Agent Runtime说明执行职责;滚动文档,2026-10-17 | 官方 SDK 指南 | 应用自己的状态、工具实现及部署保证需另验 |
| Claude Agent SDK | 嵌入 Coding 循环、工具与上下文能力 | Agent Runtime核验;滚动文档,2026-10-18 | 官方概览 | 进程、工作区、凭据与权限边界 |
| LangChain / LangGraph | 高层 Agent 抽象 / 显式状态图和 checkpoint 组合 | Agent Runtime核验;滚动文档,2026-10-17–18 | LangChain、Persistence | 内存 saver 不证明重启恢复;业务幂等由应用承担 |
| AutoGen Core / Microsoft Agent Framework | 异步消息执行 / Agent 与 Workflow 抽象 | Agent Runtime核验;stable/滚动文档,2026-10-18 | Core、Framework | 分布式存储、owner、取消和重复副作用 |
| MCP | Host/Client/Server 能力连接协议 | 固定版本、核验日期与迁移差异统一见第 16 章版本边界 | 该节及章末列出的版本化规范 | 不混用不同版本的发现、授权和传输语义;发现不等于授权 |
| A2A | 独立 Agent 的任务、消息与产物协议 | Agent Runtime;v0.3.0,非“最新版”承诺 | 版本化规范 | 本书未实现或测试兼容;自建消息不是兼容证明 |
| vLLM | 推理执行、调度和 KV 管理参考 | 推理服务与资源调度核验;V1 缓存设计/滚动文档,2026-10-17 | APC、设计 | 具体模型、量化、GPU 与 shape 的支持及收益 |
| Triton 语言 | GPU 计算程序与算子层 | 训练平台与数据管线核验;main 文档,2026-10-17 | 语言介绍 | 生成 kernel 的正确性与性能未实测 |
| Triton Inference Server | 模型仓库、版本与服务生命周期 | 推理服务与资源调度核验;滚动文档,2026-10-17 | Model Management | 不是 Triton 语言;模型后端能力分别核验 |
| Claude Code / Cursor / Codex | 终端、IDE、本地/云任务产品形态 | Coding Agent 系统核验;滚动文档,2026-10-18 | 原始产品文档及限定论点见Coding Agent 系统参考资料 | 无永久优劣榜;功能、套餐与本机开关分别核验 |
| Codex CLI / Claude Code / OpenCode | Coding Agent 执行循环、上下文、工具、权限与证据边界 | Coding Agent 系统;源码/官方滚动文档,2026-10-22 | 机制与来源映射见Coding Agent 系统参考资料;OpenCode 按 V2 核验 | Codex CLI 与 OpenCode 有公开源码;Claude Code 核心闭源;版本和入口需分别核验 |
| Pi | 终端 Runtime 与 SDK、扩展及会话资源 | Pi Agent 系统核验;2026-10-18 | Pi SDK;具体包与来源见该章 | 以该章 @earendil-works 命名空间与 ModelRuntime 为准;不外推旧 SDK 示例 |
| OpenClaw | Gateway、自有 Runtime、工具和会话历史 | 提交 62cb03ac7a95f4b9cb435f8efc57f4034ba2649b;2026-10-18 | 固定源码;OpenClaw 系统 | 活动历史与旧 JSONL 区分;profile 不自动提供隔离 |
| Hermes | 入口、Memory、Skill、delegate 与限定投递记录 | 提交 18c525b669b6ea4ba62e6967d228af21d89aa9d3;2026-10-18 | 固定源码;Hermes Agent 系统 | 特定 Gateway 投递 ledger 不证明任意业务 Outbox/Checkpoint/补偿;教学扩展单列 |
AI Infra 组件状态表
本表服务第 7 章的分层地图。状态只表示 2026-10-25 打开官方页面时可观察到的事实,不承诺未来维护;许可证以仓库 LICENSE 为准,正式引入时必须锁定 release 或 commit 并再次核对依赖许可证。
| 组件 | 角色 | 版本/提交口径 | 许可证 | 维护状态 | 硬件/模型限制 | 原始来源 | 证据类型 |
|---|---|---|---|---|---|---|---|
| PyTorch FSDP | 训练参数、梯度和优化器状态分片 | 2.9 文档 | BSD-3-Clause | 官方文档可访问 | 后端、拓扑和预取策略需实测 | FSDP 论文 | 论文+官方文档 |
| DeepSpeed | ZeRO、pipeline 与训练运行时 | 滚动仓库;引入时锁 commit | Apache-2.0 | 仓库可访问 | offload、并行组合和硬件收益需实测 | DeepSpeed | 官方仓库 |
| Megatron-LM | 大模型张量/流水线/数据并行 | 滚动仓库;引入时锁 commit | 仓库 LICENSE | 仓库可访问 | 模型结构、拓扑和 checkpoint 格式需核验 | Megatron-LM | 论文+官方仓库 |
| NCCL | GPU collective 通信 | 2.32.3 文档 | BSD-3-Clause | 官方文档可访问 | CUDA、GPU、网络与拓扑组合需核验 | Collectives | 官方版本化文档 |
| vLLM | 推理执行、continuous batching 与 KV 管理 | 滚动仓库;引入时锁 release | Apache-2.0 | 仓库可访问 | 模型、量化、GPU 与 shape 支持按 release 核对 | vLLM | 论文+官方仓库 |
| TGI | 推理服务实现参考 | 核验日 README/仓库元数据 | Apache-2.0 | README 表述为维护模式;不等同归档 | 后续功能、模型与硬件支持按固定 revision 核对 | TGI | 官方仓库 |
| Triton Inference Server | 模型仓库与实例生命周期 | 滚动官方文档 | BSD-3-Clause | 官方文档可访问 | 后端能力和模型支持分别核验 | Model Management | 官方文档 |
| FlashAttention | IO-aware attention kernel | 论文与仓库版本分别锁定 | BSD-3-Clause | 论文/仓库可访问 | GPU 代际、dtype、head dim 和 mask 支持按 release 核对 | FlashAttention | 论文+官方仓库 |
| DeepEP | MoE dispatch/combine 通信库 | 2026-10-25 仓库所见;锁 commit 后使用 | 仓库 LICENSE | 仓库可访问 | 硬件、NVSHMEM/网络和 API 边界按固定 commit 核对 | DeepEP | 官方仓库 |
| FlashMLA | MLA decode/prefill kernel | 2026-10-25 仓库所见;锁 commit 后使用 | 仓库 LICENSE | 仓库可访问 | 支持矩阵版本敏感,不在正文承诺永久硬件范围 | FlashMLA | 官方仓库 |
| 3FS | 训练读取、checkpoint 与缓存存储 | 2026-10-25 仓库所见;锁 commit 后使用 | 仓库 LICENSE | 仓库可访问 | 部署拓扑、一致性和容量需独立验证 | 3FS | 论文/README+官方仓库 |
| smallpond | 3FS 上的数据处理框架 | 2026-10-25 仓库所见;锁 commit 后使用 | 仓库 LICENSE | 仓库可访问 | 依赖 3FS 的部署与数据算子覆盖需核验 | smallpond | 官方仓库 |
其他候选入口
以下承接原工具清单,仅保留检索入口,没有在本批核验版本和功能支持。各行版本、核验日期和兼容状态统一为未知;不得把分类当作配置建议、许可证结论或性能推荐。
| 调研目的 | 原始入口 | 需补的版本、日期与能力证据 |
|---|---|---|
| 模型 API 与 Embedding | Gemini、Cohere、Voyage AI、Sentence Transformers | 精确模型与 revision、维度、tokenizer、非对称编码、限额与定价:未知 |
| 本地模型工作台 | Ollama、LM Studio | 版本、模型格式、工具协议与硬件组合:未知 |
| 数据/RAG 框架 | LlamaIndex、Semantic Kernel、AutoGPT | 具体 API、持久性、权限和恢复边界:未知 |
| 向量检索存储 | Chroma、Pinecone、Weaviate、Milvus、Zilliz、Qdrant、pgvector | 索引、过滤、删除一致性、量级、HA 与费用:未知;按知识检索与 RAG及Hermes Agent 系统的方法实验 |
| Coding 辅助产品 | Copilot、Cline、Trae | 版本、权限、执行模式、工作区和价格:未知;不能套用其他产品结论 |
| 个人知识工作台 | Obsidian、Notion、Logseq | 插件/同步/导出、ACL 与数据生命周期:未知;插件单独核验 |
| 观测与评估 | LangSmith、Helicone、Weights & Biases、Braintrust、Promptfoo | 采样、脱敏、留存、数据驻留、评估与计费能力:未知 |
| 托管与执行平台 | Replicate、Modal、Together AI | 镜像、GPU、扩缩容、数据路径、配额与费用:未知 |
一次选型的最小记录
先给出任务、质量底线、数据权限和故障模型,再选择所在层;不要按团队大小直接绑定某个产品。模型 SDK、Agent SDK、图运行时、IDE/CLI 产品与托管平台可以组合,但重试、状态、取消、预算和完成判定必须各有一个明确责任方。
记录产品/包/模型版本、官方来源与日期、已验证能力、未知项、权限范围、输入输出协议、依赖版本及固定回归集。运行时另测断线、重启、重复投递、撤权、部分输出与回滚;计费按当日模型和合同逐项核对输入、输出、缓存、工具、存储与失败重试,不沿用固定单价。只有文档支持而未运行的能力仍标为“文档核验”,实验数据另附环境与证据。