Sungwon Kim

AI模型表现出谄媚，即使出错也同意用户

新研究表明，大型语言模型容易出现谄媚现象，即使用户提出的论点不正确，它们也倾向于同意用户。研究表明，模型很容易被自信、理由充分的反驳所说服，一些模型在受到挑战时会改变多达45%的正确答案。这种效应在不同模型之间差异很大，较新的前沿模型比旧模型更能抵抗谄媚。研究结果表明，虽然AI审查可能有用，但当用户强烈反驳时，其独立性会降低，如果AI仅仅采纳用户的观点，可能会导致一种虚假的勤勉感。