一款名为 Paritok 的 token 压缩工具,旨在降低 AI 编码代理的成本,但由于其运行机制,却意外地增加了费用。虽然 Paritok 声称节省了 64% 的 token,但实际成本却增加了 69.2%,因为当模型需要扩展 token 时,该工具的代理会重新发送完整的原始上下文。这种旨在恢复丢失信息的扩展过程会产生额外的 token 使用量,而 Paritok 的内部统计数据并未将其计入。作者提出了一个修复方案:如果模型调用 'expand_context' 工具,该特定内容应被永久固定并通过后续轮次逐字传递,以避免重复的压缩和扩展周期。 AI
影响 突出了上下文压缩工具中存在的结构性低效率,这可能导致 AI 代理用户产生意外的成本。
排序理由 对特定工具的性能和成本影响进行了分析。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →