实体 Gabriele Berton

Gabriele Berton

PulseAugur coverage of Gabriele Berton — every cluster mentioning Gabriele Berton across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_129112 · Jul 7 · 04:00

CompLLM 为 LLM 提供高效的长上下文处理

研究人员开发了 CompLLM，这是一种新颖的软上下文压缩技术，旨在解决大型语言模型 (LLM) 处理长上下文的计算挑战。与将整个上下文压缩为单个单元的现有方法不同，CompLLM 将上下文划分为多个片段并独立压缩它们。这种方法实现了压缩复杂度的线性扩展，使在较短序列上训练的模型能够泛化到更长的序列，并能够跨查询重用压缩的计算。实验表明，CompLLM 在首次令牌生成时间方面可实现高达 4 倍的加速，在 2 倍压缩率下可将 KV 缓存…