Distributional Pluralism

新框架阐明大型语言模型中的多元对齐

一篇新的arXiv论文介绍了一个理解大型语言模型中多元对齐的框架。该论文提出了一个两层分类法，以区分展示一系列人类支持的观点、适应特定偏好以及匹配人口响应分布。它还通过聚合人口、国家或亚群体来对人类参考进行分类。作者综合了70篇相关作品的语料库，发现当前研究严重偏向可控和分布多元主义，而Overton多元主义的探索较少。该论文将这些目标与其验证所需的证据联系起来，旨在阐明当前方法并指导未来在AI系统中表示分歧的研究。