一篇新的研究论文探讨了机器学习中的正则化技术如何意外地放大“潜意识学习”,即隐藏的偏见在没有明显语义联系的情况下通过数据进行转移。与正则化会抑制这种隐蔽影响的预期相反,研究发现低秩适应和显式惩罚等方法实际上加强了这些隐藏偏见的转移。在幻影转移和对数线性选择等相关现象中也观察到了这种效应,这表明正则化引起的简单性偏见可能无意中促进了隐蔽影响。 AI
影响 这项研究表明,常见的机器学习技术可能会无意中引入或放大隐藏的偏见,这需要新的方法来确保人工智能系统的公平性和安全性。
排序理由 关于机器学习研究的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →