实体
LLMLingua-2
LLMLingua-2
PulseAugur coverage of LLMLingua-2 — every cluster mentioning LLMLingua-2 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新型中间件将AI编码代理的提示令牌减少高达47%
研究人员开发了一种新型中间件，通过在边缘进行预处理来优化AI编码代理的提示。该系统使用本地Llama 3.2模型将非英语文本翻译成英语，并将提示重写成更紧凑、面向任务的格式。该方法显著减少了高达47%的输入令牌使用量和18.8%的总令牌数，同时在多语言基准测试中保持或提高了编码准确性。
-
Telegraph English 使用结构化符号压缩提示，性能优于 LLMLingua-2
研究人员开发了一种名为 Telegraph English (TE) 的新提示压缩协议，该协议将自然语言重写为使用逻辑符号的结构化方言。与删除标记的方法不同，TE 将输入分解为原子事实，并用符号替换短语，使压缩适应信息密度。在 OpenAI 模型上的 LongBench-v2 评估显示，TE 在 50% 的 token 缩减率下保留了 99.1% 的准确率，并且性能优于现有方法，尤其是在较小的模型上。