Daily Productive Sharing 1356 - Code execution with MCP
One helpful tip per day:)
Adam Jones 和 Conor Kelly 介绍道:LLM 擅长写代码,开发者应利用这一优势,让智能体通过代码与 MCP 更高效地交互:
- 随着连接的工具数量增加,如果在启动时加载所有工具定义并在上下文窗口中传递中间结果,会让智能体运行变慢、成本上升。
- 当 MCP 使用规模扩大后,常见的两种导致成本与延迟上升的模式是:
(1) 工具定义塞满上下文窗口;
(2) 中间结果占用了额外的 token。 - 随着智能体越来越多地具备代码执行环境,一个解决方案是——把 MCP 服务器当作“代码 API”,而非直接的工具调用。
- 这样智能体只需加载当前任务所需的定义,将 token 消耗从 150,000 降到 2,000,节省 98.7% 的时间与成本。
- 当智能体结合代码执行与 MCP 使用时,中间结果默认保留在执行环境中;只有被显式记录或返回的内容才会暴露给模型,从而保护未必要共享的数据。
- 智能体还可以把自己编写的可用代码保存为可复用函数,一旦实现某项功能,就能长期调用。
- 在这些保存的函数中加入 SKILL.md 文件,可形成结构化技能,供模型引用与调用——长期累积后,智能体便能构建出一套高层次的能力工具箱,提高整体效率。
- 但要注意,代码执行也会带来自身的复杂性。
- 因此,代码执行带来的好处——更低的 token 成本、更短的延迟、更灵活的工具组合——都应与额外的实现成本权衡考虑。
如果你喜欢的话,不妨直接订阅这份电子报 ⬇️