MI-EPO

新框架增强大语言模型与多样化人类价值观的对齐

研究人员推出了一种新颖的框架——通过互信息进行多目标探索和偏好优化（MI-EPO），旨在使大语言模型与多样化的人类价值观对齐。这种信息论方法通过最大化模型响应、偏好反馈和偏好向量之间的条件互信息来增强多目标对齐。MI-EPO的概率路由机制将目标对齐与偏好感知探索分离开来，从而产生更可区分和可控的输出。实验证明了其在提高响应对齐度和在安全对齐和有益助手开发等任务上实现多目标稳定权衡方面的有效性。