PulseAugur
实时 10:16:01
English(EN) I Built a JSON Compressor Using Change Point Detection and It Outperforms Every Alternative

AI编码代理JSON压缩器将token数量减少70-90%

一位开发者创建了一个名为SmartCrusher的工具,该工具已集成到Copium项目中,旨在通过压缩大型JSON数组来显著减少AI编码代理的token使用量。该工具采用统计相关性评分,利用基于方差的变化点检测、用于最优项选择的Kneedle算法以及带有可选嵌入相似度的BM25来识别并仅保留最关键的信息。压缩后的数组存储在缓存中,允许LLM在必要时检索被省略的数据,检索发生在不到3%的情况下。 AI

影响 降低了AI代理的token成本,可能在上下文窗口限制内实现更复杂的操作。

排序理由 开发者创建的用于优化AI代理性能的工具。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

AI编码代理JSON压缩器将token数量减少70-90%

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Kumar Kislay ·

    I Built a JSON Compressor Using Change Point Detection and It Outperforms Every Alternative

    <p>Every time your AI coding agent calls a tool, the response is usually a massive JSON array. Think about it. You ask an agent to search your codebase, it returns 500 results. You ask it to list files, it dumps the entire directory tree. You ask it to query a database, it sends …