sovereign foundation models

AI对齐研究提出主权模型的参与式“活体宪法”

一篇新研究论文提出了一种用于对齐主权AI模型的“活体宪法”方法，建议采用一种参与式的、类似公民科学的过程来开发和完善模型的指导原则。该方法旨在确保模型与多元价值观对齐，而不是与前沿模型提供商的价值观对齐。所提出的框架强调迭代起草、模块化、理由说明、立场和合法性，并为已确定的、有争议的或未确定的规范提供了规定。基于智能体的建模表明，即使有相当一部分对抗性参与者，只要善意参与者占多数，该过程也是稳健的。