一项新的研究论文探讨了用户陈述的偏好与他们实际奖励AI回应之间的脱节。该研究分析了PRISM数据集，其中1,396名参与者对21个大型语言模型的近30,000条回应进行了评分，发现回应长度和格式等未陈述的特征与调查的属性一样具有影响力。研究表明，虽然陈述的优先级与感知的AI回应属性一致，但它们并不能准确预测用户奖励的具体特征，这凸显了AI个性化和偏好提取的挑战。 AI
影响 突显了AI个性化方面的差距，表明当前方法可能未能完全捕捉用户对具体回应特征的奖励信号。
排序理由 在arXiv上发表的研究论文，详细介绍了关于AI回应偏好的发现。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2610.30763v1 Announce Type: cross Abstract: AI assistants built on large language models (LLMs) are trained on human feedback and increasingly personalized to users' stated preferences. Yet how closely these preferences reflect what people reward in responses remains unclea…
AI assistants built on large language models (LLMs) are trained on human feedback and increasingly personalized to users' stated preferences. Yet how closely these preferences reflect what people reward in responses remains unclear. We compare stated and revealed preferences in t…