PulseAugur
实时 23:07:50
English(EN) The token compressor that made my bill go up — and the proof it had to

Token 压缩器 Paritok 因扩展开销导致 AI 代理成本增加

一款名为 Paritok 的 token 压缩工具,旨在降低 AI 编码代理的成本,但由于其运行机制,却意外地增加了费用。虽然 Paritok 声称节省了 64% 的 token,但实际成本却增加了 69.2%,因为当模型需要扩展 token 时,该工具的代理会重新发送完整的原始上下文。这种旨在恢复丢失信息的扩展过程会产生额外的 token 使用量,而 Paritok 的内部统计数据并未将其计入。作者提出了一个修复方案:如果模型调用 'expand_context' 工具,该特定内容应被永久固定并通过后续轮次逐字传递,以避免重复的压缩和扩展周期。 AI

影响 突出了上下文压缩工具中存在的结构性低效率,这可能导致 AI 代理用户产生意外的成本。

排序理由 对特定工具的性能和成本影响进行了分析。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Token 压缩器 Paritok 因扩展开销导致 AI 代理成本增加

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Gaurav Gupte ·

    The token compressor that made my bill go up — and the proof it had to

    <p>I went looking for a small improvement to an open-source tool. I found a number<br /> that pointed the wrong way, and then I found out why it had to.</p> <p><strong>Live demo — paste your own file and watch it happen:<br /> <a href="https://pin-on-expand.onrender.com" rel="noo…