一篇新的研究论文强调了大型语言模型在面对道德困境时，其道德立场存在显著的不稳定性。研究发现，模型，特别是较小的开源模型，经常会根据问题的措辞改变其判断，例如从允许转变为禁止。商业模型也表现出显著的转变，表明其道德决策对框架的变化并不稳健。研究人员提出了一项新指标，即否定敏感性指数（NSI），以更好地衡量这种稳定性，并认为容易发生此类转变的模型在高风险决策中是不可靠的。 AI
影响 强调了大型语言模型在道德决策中潜在的不可靠性，需要对稳健的对齐技术进行进一步研究。
排序理由 学术论文，详细介绍了大型语言模型行为的新发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
