实体
Yiwei Chen
Yiwei Chen
PulseAugur coverage of Yiwei Chen — every cluster mentioning Yiwei Chen across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
研究发现 VLM 安全训练存在虚假关联缺陷
研究人员发现当前视觉语言模型（VLM）的安全训练存在一个重大缺陷，称为“安全幻觉”。这是因为模型学习到了表面文本模式与安全响应之间的虚假关联，而不是真正理解危害。这些 VLM 很容易被简单的词语替换所欺骗，导致绕过安全措施或不必要地拒绝良性查询。研究提出机器学习解绑（MU）作为一种更有效的安全对齐方法，可将攻击成功率降低高达 60%，不必要拒绝率降低超过 84%。
-
新研究应对 LLM 中的机器遗忘挑战
研究人员正在开发大型语言模型（LLM）中机器遗忘的新方法，这一过程对于隐私和知识管理至关重要。几篇论文探讨了在不完全重新训练的情况下从训练模型中删除特定数据的技术。这些技术包括用于专家混合（Mixture-of-Experts）模型的 TRACE、用于平滑预测概率的 LoTUS 以及用于学习 token 级别重要性的 ATWU。其他研究则关注遗忘的最佳实践，例如使用多样化的邻居集和模块化采样，并强调了多个训练种子对于可靠评估的重要性。…