实体
LLMLingua
LLMLingua
PulseAugur coverage of LLMLingua — every cluster mentioning LLMLingua across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
Gemini CLI：10行GEMINI.md匹配100行性能，节省token
对Gemini CLI的GEMINI.md文件进行的实际测试表明，一个10行的版本在指令遵循方面与一个100行的版本表现相同，同时速度更快，消耗的token更少。该实验证明，一个简洁的GEMINI.md文件，只包含项目特定的必要规则，就足以让模型理解语言要求或硬件规格等上下文。文章还探讨了其他节省LLM token的方法，如上下文缓存、提示压缩、RAG、提示链和模型路由，并比较了它们的有效性和潜在缺点。
-
开发人员使用自定义DSL将LLM提示令牌减少70%
一位开发人员创建了一种自定义的领域特定语言（DSL）用于系统提示，显著将令牌使用量减少了高达70%。该DSL用更紧凑、机器友好的语法取代了冗长的英文指令。实验表明，这种压缩格式，类似于JSON或代码等结构化数据，被Gemini等模型有效理解，尽管提示长度大幅缩短，但仍保持了高质量的输出。
-
Headroom 工具通过上下文压缩大幅降低 LLM Token 成本
Headroom 是一款用于压缩 LLM 输入的工具，于 2026 年 6 月初在 GitHub 上获得显著关注，并登上趋势榜第一名。该工具旨在通过压缩模型输出、日志和 RAG 块，将 Token 成本降低高达 92%。文章深入探讨了上下文压缩的机制，将 Headroom 与 LLMLingua 和提示缓存等其他方法进行了比较，并讨论了其局限性和潜在的生产实现。