Meta发布了Muse Glimmer，一个拥有300亿参数的多模态智能体模型，专为在本地高效运行而设计，并支持128K上下文窗口。该模型采用混合注意力机制，结合了局部注意力（处理邻近token）和全局注意力（处理更广泛的上下文），显著降低了KV缓存需求。它还采用了先进的量化技术，使其能够在24GB显存内运行，同时最大限度地减少性能损失。Muse Glimmer通过多阶段蒸馏过程进行训练，整合了推理轨迹和特定于智能体的数据，以实现本地环境中的连续、长期任务执行和工具使用。 AI
影响 通过优化有限硬件和长上下文能力，实现了更强大、更连续的本地AI智能体。
排序理由 前沿实验室模型发布，附带系统卡和技术细节。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
