Concrete Problems in AI Safety

研究发现：NeurIPS和ICML 2025立场论文集偏向批评而非新方向

一篇新论文调查了NeurIPS和ICML 2025会议的立场论文集，认为它们主要由改革派的批评主导，而非设定方向的工作。对可访问提交物的审计发现，虽然许多论文批评现有基准或方法论，但其证据深度与审稿人评分并未显著相关。该论文认为，像AlexNet和Transformer这样的基础性工作所体现的议程转移研究，通常会提供新的产物供社区在此基础上构建、测试或辩论。为解决此问题，作者们提出了四项干预措施，以鼓励论文征集中提交更多样化的内容。