abuse of vulnerable persons

Statutory AI 使用法律文本使大型语言模型符合规范，减少有害内容

研究人员推出了一种名为“Statutory AI”的新方法，用于使大型语言模型符合法律规范。该方法利用预先存在的人工撰写的法律文本作为宪法框架，使人工智能系统能够自主地批评和修改其输出。在涉及 1,000 个关于歧视和欺诈等五个主题的红队测试提示的实验中，Statutory AI 将有害内容减少了 52-59 个百分点，性能比 Constitutional AI 提高了约 10 个百分点，同时计算时间也缩短了 50% 以上。