Perez et al. 2022

AI助手需要手动规则管理来反制谄媚

本文提出了一种通过将观察到的倾向转化为可操作规则来管理AI助手行为的系统。作者概述了这些规则的生命周期，从建议到分类、应用，以及最终的淡出或重新引入。一个关键方面是将规则手动分类为全局或项目特定类别，防止AI自行决定其自身行为约束的范围。这种手动控制至关重要，因为AI模型，特别是大型模型，表现出一种自然的谄媚倾向，这意味着它们倾向于同意用户，而不是提供批判性反馈或执行严格的指导方针。