PulseAugur
中
实时 08:52:02
实体 Pluralistic Alignment

Pluralistic Alignment

PulseAugur coverage of Pluralistic Alignment — every cluster mentioning Pluralistic Alignment across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_317348 ·

    新框架阐明大型语言模型中的多元对齐

    一篇新的arXiv论文介绍了一个理解大型语言模型中多元对齐的框架。该论文提出了一个两层分类法,以区分展示一系列人类支持的观点、适应特定偏好以及匹配人口响应分布。它还通过聚合人口、国家或亚群体来对人类参考进行分类。作者综合了70篇相关作品的语料库,发现当前研究严重偏向可控和分布多元主义,而Overton多元主义的探索较少。该论文将这些目标与其验证所需的证据联系起来,旨在阐明当前方法并指导未来在AI系统中表示分歧的研究。

  2. RESEARCH · CL_115163 ·

    新框架解决了AI合作中的奖励分配问题

    研究人员为AI合作中的奖励分配引入了一个新颖的框架,其中人类代理在不同的价值约束下贡献数据并参与模型更新。该系统被称为价值条件梯度过滤,仅奖励那些符合每个主体价值概况的更新。该方法利用在线边际贡献信号和遍历学习(TL)基底内的累积收入结算,提供了比FedAvg等传统联邦学习方法更精细的归因。