实体
Mixture-of-Storage
Mixture-of-Storage
PulseAugur coverage of Mixture-of-Storage — every cluster mentioning Mixture-of-Storage across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
MemT-1.0 通过原生内存设计将 LLM KV 缓存存储减少 66 倍
一篇新论文《MemT-1.0: Towards Memory-Native Evolution》介绍了一种处理大型语言模型长期记忆的新方法。这种名为 MemT-1.0 的方法旨在通过使内存成为模型计算的内在部分，来降低与传统 KV 缓存相关的显著内存和存储成本。它利用门控 DeltaNet-2 层进行稳定、固定大小的内存更新，并采用混合存储机制来扩展内存容量，从而大幅减少存储并提高推理速度。
-
MemT-1.0架构将内存原生集成到基础模型中
研究人员推出了一种新颖的MemT-1.0架构，旨在使内存成为基础模型的内在组成部分，从而实现信息的持续积累和利用。这种内存原生方法基于Metis构建，并结合了带有存储混合（Mixture-of-Storage）的Gated DeltaNet-2，旨在提高长上下文效率和智能体任务性能。MemT-1.0系列（包括Nano和Flash变体）在保持通用能力和提高智能体任务成功率的同时，与传统方法相比，在速度和存储方面都有显著提升。