Mome
PulseAugur coverage of Mome — every cluster mentioning Mome across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的MoME框架实现了AI隐私的可切换遗忘
研究人员开发了MoME,一个旨在实现重新识别模型隐私合规的新型框架。这个可切换系统允许单个预训练骨干模型在两种模式下运行:‘完整’模式用于标准推理,‘核心’模式用于遗忘式推理。MoME通过分离保留检索能力的核心参数和存储完整数据知识的寄生参数来实现这一点,确保核心参数不受数据删除请求的影响。这种方法允许选择性地遗忘个体,同时保持模型识别他人的能力,其性能已在Market-1501、VeRi-776和RegDB等数据集上得到验证。
-
新的MoME技术通过上下文感知记忆增强LLM效率
研究人员推出了一种新颖的上下文感知记忆机制——混合记忆嵌入(MoME),旨在提高大型语言模型的效率。与之前为每个token分配单个记忆条目的方法不同,MoME利用混合槽位和一个学习到的门控来根据token的隐藏状态选择相关槽位。在nanochat、Llama 3、MobileLLM和Qwen3等各种骨干模型上进行的实验表明,MoME在参数和FLOP效率方面优于现有基线。该方法还显示出随着记忆大小的改进扩展趋势,并在多义token的路由…
-
新AI框架在不共享数据的情况下解决医学影像中的偏见问题
研究人员开发了一个名为多中心专家混合模型(MoME)的新框架,以解决医学AI模型中的偏见问题。该方法整合了来自不同临床中心的专业知识,而无需共享数据,从而提高了模型的泛化能力。MoME使用多模态模型对前列腺癌放疗进行了验证,证明了其在少样本训练下的性能提升以及对本地临床偏好的适应性。
-
新研究揭示了上下文路由在时间序列预测中有效性的条件
研究人员进行了一项系统研究,以确定辅助上下文何时能真正帮助多模态时间序列预测。他们确定了两个关键的数据集条件:目标序列不能仅凭其自身近期历史轻松预测(低自相关性),并且上下文必须提供超出该历史的信息(非零条件互信息)。使用MoME模型和其他融合机制进行的实验表明,当满足这些条件时,基于上下文的路由可以显著降低预测误差。相反,当任一条件不满足时,上下文的益处会减弱或完全消失。