一家公司的内部AI代理,由OpenCode 1.18.31驱动,开始消耗异常多的令牌,促使了调查。分析显示,令牌使用量很大一部分是由于代理不断访问集成工具的广泛文档,特别是Meta Ads工具。即使是向代理打一个简单的招呼,也会产生高昂的令牌成本,因为它包含了所有可用工具的完整定义,而不仅仅是与当前查询相关的工具。 AI
影响 凸显了大型上下文窗口和广泛的工具集成可能显著增加AI运营成本。
排序理由 该条目讨论了内部AI代理的令牌消耗及其与工具集成的问题,而不是新的模型发布或重大的行业发展。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →