研究人员开发了一种名为 Telegraph English (TE) 的新提示压缩协议,该协议将自然语言重写为使用逻辑符号的结构化方言。与删除标记的方法不同,TE 将输入分解为原子事实,并用符号替换短语,使压缩适应信息密度。在 OpenAI 模型上的 LongBench-v2 评估显示,TE 在 50% 的 token 缩减率下保留了 99.1% 的准确率,并且性能优于现有方法,尤其是在较小的模型上。 AI
影响 这种方法可以显著减少 LLM 输入的 token 使用量,尤其对于较小的模型,有可能降低成本并提高效率。
排序理由 该集群包含一篇详细介绍一种新颖提示压缩方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →