研究人员推出了一种新颖的MemT-1.0架构,旨在使内存成为基础模型的内在组成部分,从而实现信息的持续积累和利用。这种内存原生方法基于Metis构建,并结合了带有存储混合(Mixture-of-Storage)的Gated DeltaNet-2,旨在提高长上下文效率和智能体任务性能。MemT-1.0系列(包括Nano和Flash变体)在保持通用能力和提高智能体任务成功率的同时,与传统方法相比,在速度和存储方面都有显著提升。 AI
影响 这种内存原生方法通过实现持续学习和更好地处理长上下文,有望带来更高效、更强大的AI智能体。
排序理由 该集群描述了一篇关于新模型架构的详细研究论文。
- arXiv
- Gated DeltaNet-2
- Hugging Face
- MemT-1.0
- MemT 1.0 Flash
- MemT 1.0 Nano
- Metis
- Mixture-of-Storage
- Zhiyu Li
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →