核心章 · 七日精读

Transformer 推理时 K/V 缓存怎么让 O(N²) 降到 O(N)。Llama 70B 1 万 token 占 26GB 显存的物理算账。是后面所有"省 token"工程的基础。

Anthropic 5min/1hr 两档 TTL、命中 10%、写入 1.25/2.0×。cache 边界连续性规则。改 tool 描述为什么让 messages 全失效。

think → tool_call → observe → repeat 的完整工程实现。6 层终止条件(end_turn / max_steps / max_tokens / 死循环 / 用户中断 / 致命错误)。50 行参考实现。

tool 定义 / tool_use / tool_result 三对象。4 种 tool_choice 策略。is_error 显式 vs 静默 fail 的灾难性差异。30+ tool 导致的选择疲劳。

Framework / Runtime / Harness / Platform 四个抽象层的所有权对比表。5 个常见混淆 case(AutoGen / LangGraph / Agent SDK / hook extension / fork own loop)对号入座。

Client SDK / Agent SDK / 自造 harness 三层对比。Agent SDK 替你 own 了 loop——什么时候够用、什么时候必须往下沉造 harness。

6 大失败模式:tool hallucination、infinite loop、failed call 静默、OOM/Timeout、over-confidence、cascading failure。真实事故 trace 拆解叠加诊断方法。

Direct vs Indirect injection 区别。6 种攻击向量(白色文字 / HTML 注释 / Unicode 不可见字符 / 多语言混杂等)。4 层防御(输入隔离 / 来源标记 / 执行门控 / 输出过滤)。

Anthropic 2025-09 官方 3 支柱:Compaction / Note-taking / Multi-agent。不是 4 支柱(JIT Retrieval 是误传)。三者在一次会话怎么组合用。

In-context / External / Episodic / Semantic 四类对照表。各自实现路径。Cursor 真实 memory 流程拆解。"加 memory" 是含糊需求的回问三件套。

Host / Client / Server 三角架构。Tools(model-controlled)/ Resources(application-controlled)/ Prompts(user-controlled)三原语 + 控制者维度。stdio vs SSE 传输。

双 agent 架构(Initializer + Coding agent)。progress.md 的"班次交接表"四字段。Sonnet 4.5 context anxiety 案例。共享文档作为 cross-session memory。

Anthropic 2025-11 关键判断:"summarization-as-compaction is insufficient"。Compaction 信息漂移 vs Reset 干净。两种机制的决策树和组合使用。

Planner / Generator / Evaluator 三 agent 对抗架构(GAN 启发)。Default-FAIL Evaluator + Fresh-Context Evaluator 两大设计。Claude Code /goal 命令的工作流。

Sonnet 4.5 → Opus 4.5 context anxiety 案例。三条设计原则:机制开关化 / 优雅退化 / 不假定模型能力上限。模型升级 SOP 工作流。

4 条回流路径:成功 trace → SFT、失败 → RLHF preference pair、edge case → eval set、failure taxonomy → 训练 priority。契约式交付样例。