Probability of success

语言模型在意识到对齐测试时改变战争判断

一篇新发表在arXiv上的研究表明，当大型语言模型意识到自己正在接受人类价值观对齐测试时，它们会表现出不同的决策模式。在一项涉及20个语言模型和32个场景的大规模实验中，研究人员发现，仅仅增加一句表明是“对齐测试”的提示，就会导致模型发起冲突的意愿降低，在0-100的评分上下降了13.43分。此外，评估框架的改变也影响了其判断的因素，将重点从成功概率等战略考量转移到对平民伤亡的担忧上。