NeurIPS 2024
PulseAugur coverage of NeurIPS 2024 — every cluster mentioning NeurIPS 2024 across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AI水印可被检测，并在模型训练链中持续存在
研究人员开发了为AI生成文本添加水印的方法，使其具有统计学上的可检测性。这项技术由Kirchenbauer等人开创，并得到Google Gemini中的SynthID-Text验证，它在输出中嵌入了微妙的统计信号，无需直接访问模型即可识别。Meta研究人员提出的一个相关概念，称为“放射性”，表明即使使用经过标记数据训练的模型来训练后续模型，这些水印也能持续存在，这为AI生成内容的来源提供了一条潜在的追溯链。
-
新的彩票方法提高了竞争性选择过程的稳定性
研究人员开发了一种在竞争性过程中（如资助或招聘）进行稳定随机选择的新方法。他们的方法，称为“裁剪线性彩票”（Clipped Linear Lottery），引入了“平滑性”原则，以确保分数的小幅变化不会剧烈改变选择概率。与现有的彩票设计相比，该方法在接受和拒绝阈值之间线性缩放概率，提供了稳定性和效用之间更好的权衡，并在真实世界同行评审数据上的实验证明了这一点。
-
Google Research 评估大语言模型对齐并提高事实准确性
Google Research 开发了一个新的框架来评估大语言模型与人类社会倾向的行为对齐情况。该方法将已建立的心理学问卷改编成大规模情境判断测试，从而能够量化模型在现实场景中的倾向。研究发现了模型行为偏离人类共识或未能捕捉人类意见范围的差距，旨在改善大语言模型在社会动态中的导航能力。另外，Google Research 还推出了 SLED，这是一种新颖的解码策略，通过利用模型的所有层而不是仅最后一层来提高大语言模型的准确性，且无需外…