Hola
PulseAugur coverage of Hola — every cluster mentioning Hola across labs, papers, and developer communities, ranked by signal.
- 2026-07-03 research_milestone Researchers introduced HOLA, a novel architecture for linear attention language models that improves memory recall and reduces perplexity. 来源
-
HOLA 架构通过减少 KV 缓存和提高困惑度来提供高效的 LLM
Reddit 上的一篇帖子强调了 HOLA 架构在大语言模型方面的潜力，其 KV 缓存需求显著降低，并且与传统注意力机制相比，困惑度有所提高。发帖人对这种有望实现显著加速和提高效率的架构获得的关注度不如 MTP/DFlash/DTree 等提供更温和性能提升的方法表示不解。HOLA 架构被认为是实现高效 LLM 运行更有前景的途径。
-
HOLA 为线性注意力模型增强了互补记忆系统
研究人员开发了一种名为 HOLA（海马体线性注意力）的新方法，以增强线性注意力和状态空间语言模型的记忆能力。该方法引入了一个互补的“海马体”组件，用于存储精确的键值关联，解决了传统循环状态可能覆盖早期事实的损失性质。HOLA 在有界精确缓存旁边维护一个压缩记忆，从而能够高效存储线性可压缩结构，同时保留关键关联。这种半参数记忆系统在 Wikitext 和 LAMBADA 基准测试中的困惑度方面取得了显著改进，并在“针尖麦芒”召回测试中表…
-
新算法赋能机器人跨未知环境、伙伴和规模进行自适应协作 · 追踪到2个来源
研究人员引入了超图开放式学习算法（HOLA），以应对动态和不可预测环境中多机器人协作的挑战。该新算法通过对超越简单成对交互的复杂协作关系进行建模，使机器人能够适应未知的环境、伙伴和团队规模。HOLA在合作追逐场景中表现出卓越的性能，并已成功部署在Crazyflie和Zsibot L1物理平台上，证实了其在现实世界协调中的鲁棒性。
-
新的HOLA架构通过双记忆系统增强线性注意力语言模型
研究人员开发了HOLA（海马体线性注意力）架构，这是一种通过引入互补记忆系统来增强线性注意力语言模型的新型架构。该系统解决了标准线性注意力模型中信息丢失的问题，在这些模型中，由于固定大小的循环状态，早期事实可能会被覆盖。HOLA在保持压缩状态的同时，增加了精确的KV缓存来存储关键关联，从而提高了召回率并降低了困惑度。
-
HOLA 方法通过多模态对齐增强 3D 识别能力
研究人员开发了 HOLA，一种用于开放集 3D 识别的新方法，可提高对未见类别的泛化能力。HOLA 将 3D 点云与多个图像和文本描述对齐，以实现对对象的更全面理解。该方法利用了一种新颖的解耦多正例对比损失函数，该函数专注于具有挑战性的负例并避免了多正例问题。此外，还采用了一个轻量级的文本适配器来弥合网络标题和精选注释之间的领域差距，从而能够有效利用大规模无监督文本数据。