Democratic ICAI

民主ICAI通过结构化辩论推进AI偏好对齐

研究人员推出民主ICAI，这是逆向宪法AI（ICAI）的一项进展，旨在更好地捕捉人类偏好背后的推理。与依赖单次解释的先前方法不同，民主ICAI采用结构化角色辩论来收集多个竞争性理由。这种方法旨在更全面地理解决策因素，从而为指导LLM和决策树裁判提供更清晰的指导原则。在MuCE-Pref和LiTBench等创意偏好基准上的实验表明，与现有方法相比，民主ICAI产生了更准确的偏好结构和更高的预测准确性。