群发资讯网

系列博文:Agent 系统中的 Prompt Caching 设计。“ Prom

系列博文:Agent 系统中的 Prompt Caching 设计。“ Prompt Cache 不只是一个省钱技巧,它是 Agent 系统架构设计的核心约束。”本文有两篇:(上):Cache 破坏、Prompt 布局与工具管理yuanchaofa.com/post/prompt-cache-design-for-llm-agents读完本文,你将了解: 从 Prompt Engineering 到 Context Engineering 的范式转变 为什么 Agent 比普通 Chatbot 更需要 Prompt Caching 什么操作会破坏 Cache(比你想象的多) Prompt 布局与动态信息管理的最佳实践 工具管理的三种 Cache-aware 方案对比

(下):上下文管理与子代理架构yuanchaofa.com/post/agent-context-management-and-sub-agents读完本文,你将了解: Context Rot(上下文腐烂):为什么更大的 context window 不是万能解药 Cache-Safe Compaction:如何在压缩 context 时不破坏 cache Plan 模式的演进:从 todo.md 到专门 planner agent 文件系统 & Just-in-Time Context:Agent 的"延展记忆" 子代理的 Cache 友好设计:90%+ prefix reuse 是怎么做到的 The Bitter Lesson:哪些设计是持久的,哪些会被模型进步淘汰

作者博客里还有很多其他好文。可关注。HOW I AI