实体 Layer-wise Token Compression

Layer-wise Token Compression

PulseAugur coverage of Layer-wise Token Compression — every cluster mentioning Layer-wise Token Compression across labs, papers, and developer communities, ranked by signal.

Show in brief

总计 · 30天

90 天内 1

发布 · 30天

90 天内 0

论文 · 30天

90 天内 1

层级分布 · 90 天

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_49288 · May 20 · 03:52

新的逐层令牌压缩技术提升文档重排速度

研究人员开发了一种名为逐层令牌压缩（LTC）的新方法，以提高信息检索中使用的基于Transformer的文档重排模型的效率。与仅应用于初始嵌入层的先前令牌压缩技术不同，LTC在中间Transformer层调整令牌池化。这种方法在速度上显示出显著提升，将passage ranking的每秒推理查询数提高了高达25%，将document ranking的每秒推理查询数提高了116%，同时保持了重排质量。该方法也适用于长上下文列表式重排，甚…

新的逐层令牌压缩技术提升文档重排速度