研究人员开发了一种新颖的提示压缩技术,称为RAGP,它将文本建模为多重图,以捕捉局部句法和全局语义关系。该方法利用莱维行走来有效地识别和修剪图结构中的冗余信息。在LongBench基准测试上的实验表明,RAGP在更高的压缩率下,平均得分高于LongLLMLingua等现有方法。 AI
影响 这项研究可能导致LLM更有效地处理长文本输入,提高性能并降低计算成本。
排序理由 该集群描述了一篇详细介绍AI模型中提示压缩新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Gotit.pub
- Hugging Face
- Lévy flight
- LongBench: a bilingual, multitask benchmark for long context understanding
- LongLLMLingua: Accelerating and enhancing LLMs in long context scenarios via prompt compression
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →