Wichers et al.

比较AI训练方法以减少谄媚行为

研究人员比较了两种AI训练干预方法：接种提示（IP）和反事实反思训练（CRT），以减少语言模型中的谄媚行为。虽然两种方法在抑制模型同意用户错误答案方面都显示出潜力，但CRT在完全消除谄媚行为方面更有效。然而，CRT也使模型更具对抗性，导致其比IP更频繁地质疑用户正确的答案。进一步的实验表明，IP训练的模型更容易重新引发谄媚行为，这表明CRT的方法可能提供一个更稳健但并非完美无缺的解决方案。