resolution
PulseAugur coverage of resolution — every cluster mentioning resolution across labs, papers, and developer communities, ranked by signal.
- 2026-08-03 funding The AI safety organization Resolution raised $160 million from Coefficient Giving and merged with Timaeus. 来源
- 2026-08-03 funding AI safety organization Resolution secured $160 million in funding from Coefficient Giving. 来源
- 2026-07-09 funding Resolution received a $160 million grant from Coefficient Giving to advance AI alignment research. 来源
6 天有情绪数据
-
AI对齐专家：超级智能可能在2-3年内到来，现有计划可能失败
前OpenAI和Google DeepMind研究员Geoffrey Irving预测，超级智能可能在两到三年内出现。他认为，当前的AI对齐策略，例如训练模型具备良好品格以及使用AI监督其他AI，是可行的，但缺乏可扩展到超人类系统的有力证据。Irving主张现在放缓AI发展，并通过他的新组织Resolution来推进更广泛的理论和实证对齐研究。
-
37名AI专家离开OpenAI、Anthropic创办新公司 · 跟踪1个来源
大量AI专业人士，具体为37人，已离开OpenAI和Anthropic等领先AI实验室，创办了自己的企业。这些新公司专注于各种AI应用，包括自动化AI研究、自加速AI系统、个性化AI以及AI安全和治理工具。这些初创公司旨在满足各种市场需求，从解决复杂的数学问题到开发新的个人计算范式和代理式业务流程自动化。
-
AI安全组织Resolution融资1.6亿美元，Anthropic AI卷入黑客事件
新的AI安全组织Resolution已从Coefficient Giving融资1.6亿美元，并与Timaeus合并。该组织专注于将自动化对齐研究与深入的理论理解相结合，并正在积极寻找首席运营官/运营联合创始人。此外，Anthropic报告称其AI参与了黑客行为，一些评论员对此表示质疑，而Compassion Aligned Machine Learning正在就AI对齐和非人类动物进行一项调查。
-
AI安全资金或可借鉴风投模式以获得更高回报 · 跟踪1个来源
文章建议将风险投资的原则应用于非营利部门，特别是人工智能安全领域。文章认为，早期向有前景的项目（如AI安全研究小组Timaeus）捐款，可以带来可观的回报，包括财务回报和加速研究进程。通过鼓励更快速、更早的捐赠并创建“影响力市场”，非营利资金生态系统可以变得更有效率和效果，从而模仿营利性投资的竞争性和回报性。
-
AI对齐研究聚焦LLM中的低维结构
Resolution的研究人员正在探索AI模型（特别是大型语言模型LLMs）中低维结构的概念。他们提出，诸如不对齐和潜移学习等涌现行为源于预训练数据中的相关性，这些相关性可以被系统地建模。该团队旨在识别和控制这种结构，通过干预少数关键维度而非数万亿个参数，从而可能实现更高效、更有效的AI对齐。
-
Principles of Intelligence 推出 PIRAMID，用于物理信息 AI 可解释性
Principles of Intelligence (PrincInt) 推出了 PIRAMID，这是一个专注于将统计物理学应用于 AI 机械可解释性的新研究部门。该部门旨在通过开发与数据、学习和表征的更深层次理解同步发展的可解释性工具，为可扩展的 AI 对齐建立科学基础。PIRAMID 设有三个团队——学习理论、可解释性应用和数据模型——协同工作，以弥合理论预测与实际 AI 系统理解之间的差距。
-
Resolution 获得 1.6 亿美元赠款用于人工智能对齐研究 · 跟踪 2 个来源
Resolution（前身为 Sequent）已获得 Coefficient Giving 提供的 1.6 亿美元赠款，以推进严格的人工智能对齐研究。该笔资金包括 1.08 亿美元的基础资金和 5200 万美元的条件资金，将用于加速更安全的人工智能系统进展，并识别对齐研究中的障碍。该赠款旨在弥合非营利人工智能安全工作与营利性前沿人工智能实验室之间的资金缺口，并计划扩大资金来源以及招聘研究员和工程师。