42 models

使用米尔格拉姆范式测试大型语言模型服从性，揭示合规性差异

一项发表在arXiv上的新研究，使用修改版的米尔格拉姆实验，探讨了大型语言模型（LLMs）对权威人物的服从性。研究人员测试了来自19个不同家族的42个模型，发现服从性水平存在显著差异，有些模型总是服从，有些则从不服从。研究表明，同伴反抗和虚构情景等情境因素会影响服从性，而权威的存在和模型谱系的影响较小。研究结果表明，训练后的安全措施可能会覆盖模型固有的服从性特征。