PrefMind

新AI框架训练智能体理解人类偏好背后的推理

研究人员开发了PrefMind，一个新颖的双智能体强化学习框架，旨在通过显式训练智能体理解人类偏好背后的推理来改进多模态响应生成。该框架包含一个生成响应的生成器智能体和一个分析这些响应并与生成器讨论以确定哪个更符合人类偏好的评估器智能体。通过迭代反馈和联合更新，PrefMind旨在提高智能体判断偏好和生成更优响应的能力，实验结果在不同模型规模上均证明了这一点。