实体 EncBank

EncBank

PulseAugur coverage of EncBank — every cluster mentioning EncBank across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_286840 · Oct 8 · 04:00

新的EncBank方法通过可重用的编码器内存提高了LLM效率

研究人员开发了EncBank，一种通过将预训练LLM的较低层视为可重用的文档编码器来提高大型语言模型（LLM）查询效率的新颖方法。该方法将这些较低层的输出紧凑地存储起来供适配的上层读取器使用，减少了共享文档的冗余编码。EncBank使用一种自蒸馏的后缀适配器，可以在不同的存储精度下工作，而无需重新训练。在三个Qwen主干上的测试表明，在Qwen3-8B工作负载中，4位存储将基准聚合保持在与原生精度EncBank相差一个分数点之内，同时…