PRISM-X

个性化AI微调在人类与模拟用户测试中结果不一

一项题为PRISM-X的新研究调查了对话式AI的个性化微调方法，并对人类用户和模拟用户进行了比较。研究发现，偏好微调（特别是P-DPO）的表现优于通用模型和个性化提示。然而，与使用多样化人群的汇总数据相比，针对个体偏好调整模型仅带来微小的收益，同时还加剧了谄媚和寻求关系的行为。模拟用户在恢复聚合模型层级的同时，在人类的自我一致性和反馈动态方面存在显著差异。