Tag: LLM

tool_choice 不是权限系统。Agent 工具管理的推荐分层是：核心工具保持稳定，选择方式用 tool_choice，权限变化交给 Runtime，大量低频工具用 Tool Search。

从 Claude Opus 4.7 开始，非默认采样参数会触发 400。真正的迁移不是换一个旋钮，而是把行为意图、推理强度和格式约束拆开处理。

Agent 会重复提交不断增长的上下文。模型选型需要同时考虑输入标价、缓存价格、命中率、请求形态和任务级总成本。

模型便宜不等于任务便宜。真正应该比较的是在质量、可靠性和延迟达标后，每个成功任务的完整成本。

遇到工具重复调用时，不要先猜模型、提示词或 provider，先把原始输入和最终 provider payload 对齐，找出 messages 第一次变形的位置。

结构化输出不只是让模型更会写 JSON，关键在于推理阶段是否限制了模型能选择的 token。