实体 LoLCATs

LoLCATs

PulseAugur coverage of LoLCATs — every cluster mentioning LoLCATs across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_341151 · Nov 3 · 05:07

Anchor 方法优化 Transformer 内存以实现更好的长上下文检索

研究人员开发了一种名为 Anchor 的新方法，以改进 Transformer 中的长上下文检索。该技术识别模型内的“锚层”，在这些层中循环状态对于检索至关重要，而不是将它们分布在所有层中。通过优化这些状态的放置和转换，Anchor 在 MMLU 等基准测试中显著提高了召回率和准确性，同时减少了内存使用和延迟。