majority rule
PulseAugur coverage of majority rule — every cluster mentioning majority rule across labs, papers, and developer communities, ranked by signal.
-
研究发现:多数投票奖励与可验证的强化学习密切相关
一篇新的研究论文探讨了在强化学习中使用多数投票奖励的有效性,发现即使错误率很高,它们也能与可验证的奖励密切跟踪。研究认为,关键在于批次级别的更新,而不是提示级别的分析,因为共享参数意味着单个提示的梯度很小。研究表明,多数投票的错误在不同提示之间是不连贯的,从而保留了与黄金标准奖励相似的更新方向,并且这种等价性在模型检查点之间都成立。
-
新研究揭示众包聚合方法普遍存在校准不准问题
一篇新发表在arXiv上的研究论文,调查了众包聚合器的校准问题,发现诸如多数投票和基于模型的聚合器等常用技术可能存在严重的校准不准。研究表明,虽然贝叶斯聚合器在其数据生成模型下校准完美,但加权多数投票的精确校准具有高度限制性。实证研究中,该研究观察到在大量基于人类和LLM的众包数据集上存在系统性的校准不准。为解决此问题,提出了一种新颖的后验校准程序,该程序在应用温度缩放之前聚合多个聚合器,从而提高了校准和准确性,尤其是在高冗余场景下。
-
测试时计算通过多数投票、验证器和顺序推理提高LLM准确性
测试时计算策略允许在推理过程中通过增加计算资源来提高语言模型的准确性,而不是训练更大的模型。诸如多数投票(自洽性)和N选一(使用验证器)等方法利用多个样本来提高性能。顺序方法,例如在OpenAI的o1/o3和DeepSeek-R1中看到的那些,通过在单个、扩展的推理过程中实现模型的自我纠正和回溯,进一步改进了这一点。
-
深度信念网络模拟临界条件下的社会系统
研究人员探索了玻尔兹曼机(特别是深度信念网络 DBN)在模拟临界条件下多数规则社会系统的生成能力。该研究在第一层使用了非二元单元的 DBN,并采用了一种“梦境”过程,其中固定的可见单元使网络生成样本。这种方法允许测量与原始系统的偏差,并证实即使在输入噪声的情况下,重构的样本也保持了临界状态。
-
新的聚类方法模拟自然语言处理任务中的标注者视角
研究人员开发了一种新的基于一致性的聚类技术,以更好地模拟主观自然语言处理(NLP)任务中的标注者视角。该方法旨在捕捉标注者之间分歧的细微差别,而这些细微差别通常在传统的多数投票聚合中丢失。在40个数据集和18种语言的文本情感分析、情绪分类和仇恨言论检测实验中,该方法与现有方法相比,显著提高了分类性能。