· Terry · AI
Agent 动态工具管理:tool_choice、Runtime 权限与 Prompt Cache
tool_choice 不是权限系统。Agent 工具管理的推荐分层是:核心工具保持稳定,选择方式用 tool_choice,权限变化交给 Runtime,大量低频工具用 Tool Search。
tool_choice 不是权限系统。Agent 工具管理的推荐分层是:核心工具保持稳定,选择方式用 tool_choice,权限变化交给 Runtime,大量低频工具用 Tool Search。
明明配置了 Structured Output,却还要在提示词里重申 JSON 格式?真正的问题往往是底层 API 能否组合 Tools 与原生结构约束。
Agent 会重复提交不断增长的上下文。模型选型需要同时考虑输入标价、缓存价格、命中率、请求形态和任务级总成本。
模型便宜不等于任务便宜。真正应该比较的是在质量、可靠性和延迟达标后,每个成功任务的完整成本。
遇到工具重复调用时,不要先猜模型、提示词或 provider,先把原始输入和最终 provider payload 对齐,找出 messages 第一次变形的位置。
全面解析 Mastra 框架中 clientTools 的工作原理,从客户端定义到服务端处理的完整流程,探讨多工具来源合并机制与 AI SDK 的协同工作方式。