Roleplay collections

新方法优化 AI 对齐以适应多样化的人类偏好

研究人员开发了一种名为福利感知偏好获取（WAPA）的新方法，以提高 AI 模型与多样化人类偏好的对齐度。WAPA 通过战略性地分配数据收集来应对有限的人类反馈的挑战，确保所有个体，特别是来自代表性不足群体的偏好得到充分捕捉。通过采用辅助参考模型来估计潜在收益和个体效用，WAPA 优化了人类标签的获取，以最大化社会福利目标，从而提高偏好预测和策略训练中的可控权衡。