研究人员开发了一个名为“人口多元化”(Demographic Pluralism)的新框架,旨在更好地为大型语言模型中的多元化人类偏好建模。这种推理时方法通过在人口统计学基础上进行分组,生成多种视角来估计群体层面的意见分布,而无需意见分布的训练数据或特定任务的微调。在GlobalOpinionQA和VITAL数据集上的实验表明,与现有的“模块化多元化”(Modular Pluralism)等方法相比,“人口多元化”将Jensen-Shannon距离最多降低了26.4%。研究还发现,对聚合意见进行平均加权在整体上表现最佳。 AI
影响 这项研究可能通过更好地捕捉多元化用户偏好,从而催生更具文化敏感性和代表性的AI系统。
排序理由 该集群包含一篇详细介绍大型语言模型新框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →