Sequent
PulseAugur coverage of Sequent — every cluster mentioning Sequent across labs, papers, and developer communities, ranked by signal.
- 2026-06-15 research_milestone Researchers launch new nonprofit Sequent to address AI alignment concerns. 来源
2 天有情绪数据
-
Resolution 获得 1.6 亿美元赠款用于人工智能对齐研究 · 跟踪 2 个来源
Resolution（前身为 Sequent）已获得 Coefficient Giving 提供的 1.6 亿美元赠款，以推进严格的人工智能对齐研究。该笔资金包括 1.08 亿美元的基础资金和 5200 万美元的条件资金，将用于加速更安全的人工智能系统进展，并识别对齐研究中的障碍。该赠款旨在弥合非营利人工智能安全工作与营利性前沿人工智能实验室之间的资金缺口，并计划扩大资金来源以及招聘研究员和工程师。
-
新非营利组织Sequent成立，旨在弥合AI对齐差距
一家名为Sequent的新非营利研究组织已由英国AI安全研究所对齐团队和对齐理论初创公司Timaeus的研究人员组建。Sequent旨在开发能够为未来超级智能AI系统的安全性提供更大信心的对齐技术，因为目前的方法被认为不足以应对AI发展的快速步伐。该组织计划初步筹集1亿至1.5亿美元，目标是发展到40至80名员工，并可能筹集更多资金，以探索在可扩展监督、学习理论和博弈论等领域的众多并行研究调查。
-
AI安全社区很少关注直接的超级智能对齐
LessWrong 上的一篇最新帖子指出，AI安全社区中直接从事超级智能对齐研究的人员比例之少令人惊讶。作者提到，虽然许多人从事能力评估、风险评估和政策等相关领域的工作，但专注于确保未来超级智能AI与人类价值观保持一致的人却较少。帖子中提到的致力于对齐研究的特定组织包括Alignment Research Center、Sequent以及GDM的部分团队，还有一些零散的大学个人。
-
新非营利组织Sequent成立，旨在提高AI对齐信心
一个名为Sequent的新非营利研究组织已成立，其目标是提高AI对齐的信心。该组织计划大力投资自动化和理论研究以加速进展。Sequent旨在通过探索一系列理论和实证方法来实现对齐结果的更高信心，这使其区别于AI实验室常用的被动方法。
-
人工智能安全聚焦形式化方法，举办黑客松并涌现新创企业
人工智能安全社区正围绕形式化方法进行组织，举办了专注于安全程序合成的黑客松和研究员项目。Midspiral、Sequent 和 Sigil Logic 等新公司正在这一领域崭露头角，将形式化方法应用于 Web 开发和人工智能安全等领域。此外，一项关于网络加固人工智能系统的新资金呼吁以及一项针对人工智能安全硬件的驻留计划，都凸显了对这些关键领域日益增长的关注。