fs_write_file

LLM 代理在每次交互时重新发送完整的工具模式会产生高昂的成本

一位代理开发者发现，大型语言模型 (LLM) 处理工具模式的方式存在重大的成本效率低下问题。该开发者发现，在每次对话交互中发送多达 7,000 个 token 的详细工具模式非常低效，因为通常每次交互只使用一到两个工具。这导致每次 API 调用都要为大量不必要的 token 付费。提出的解决方案是，对于大多数工具只发送必要的工具名称和简短描述，而只为那些可能即将被使用的工具保留完整的模式，从而降低 token 成本。