PulseAugur
中
实时 11:20:36
实体 Multi-State Linear Attention

Multi-State Linear Attention

PulseAugur coverage of Multi-State Linear Attention — every cluster mentioning Multi-State Linear Attention across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_327117 ·

    MERLIN 通过基于矩的路由增强 LLM 的长上下文理解能力

    研究人员开发了 MERLIN（MomEnt Routing for multi-state LINear attention），一种提高大型语言模型处理长序列的效率和性能的新方法。MERLIN 跟踪段键的一阶和二阶矩，以更好地模拟每个段对查询的相关性，从而改进信息聚合。实验表明，MERLIN 在 RULER 和 LongBench 等各种长上下文任务上始终优于现有方法，同时消耗的内存更少。