一篇题为《对齐否决》（The Alignment Veto）的新研究论文探讨了大型语言模型中的安全训练如何抑制文化知识，尤其是在中东和北非（MENA）国家。该研究涉及26个模型和超过150万份人类调查回复，发现模型表现出一种“对齐否决”现象，即知识的内部分布被阻止输出，而不是被抹去。这种抑制导致了37.6%的不公平“安全税”，不同国家之间存在显著的质量差距，而使用母语提示也无法解决此问题。研究人员在Tulu-3-8B的直接偏好优化（Direct Preference Optimization）阶段发现了一个可能介导这种抑制的潜在特征。 AI
影响 强调了大型语言模型安全训练中可能存在的偏见，这些偏见可能不成比例地影响文化知识的表述，从而影响全球公平性和实用性。
排序理由 研究论文发布在arXiv上，详细介绍了关于大型语言模型安全训练的发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
