AGI
PulseAugur coverage of AGI — every cluster mentioning AGI across labs, papers, and developer communities, ranked by signal.
- employed by Ilya Sutskever 90%
- invested by SoftBank Group 75%
- instance of LLMs 70%
- instance of LLM 70%
- instance of Ilya Sutskever 70%
- invested by Tencent 70%
- used by reinforcement learning from human feedback 70%
- other LLMs 60%
- instance of Mastodon 60%
- competes with LLM 50%
- other Mastodon 50%
- affiliated with Less Wrong 50%
- 2026-05-19 research_milestone Google DeepMind CEO Demis Hassabis predicted AGI could be achieved within years.
14 天有情绪数据
-
OpenAI任命网络安全专家Paul Nakasone加入董事会
OpenAI已任命美国陆军退役上将Paul M. Nakasone加入其董事会。Nakasone是一位网络安全专家，曾担任美国网络司令部和国家安全局局长，他还将加入董事会的安全委员会。他的任命旨在加强OpenAI对其人工智能系统的网络安全关注，并探索人工智能在增强网络防御能力方面的潜力。
-
OpenAI 探索弱到强泛化以实现人工智能对齐
OpenAI 引入了一个名为弱到强泛化（weak-to-strong generalization）的新研究方向，旨在应对未来超智能人工智能系统与人类监督对齐的挑战。他们的初步实验表明，一个 GPT-2 级别的模型可以有效地监督 GPT-4，在自然语言处理任务上恢复其大部分能力。这种方法表明，即使存在不完美的人类反馈，更强大的 AI 模型也能学会预期的任务，为可扩展的监督提供了一条潜在路径。
-
OpenAI组建准备团队以应对灾难性AI风险
OpenAI已成立一个由Aleksander Madry领导的新准备团队，专注于高度强大AI系统相关的安全风险，包括潜在的灾难性滥用。该团队将整合未来前沿模型和AGI的能力评估、评价和红队测试。OpenAI还将启动一项AI准备挑战，以识别新颖的灾难性滥用风险，为最佳提交者提供API积分，并吸引参与者中的人才。
-
OpenAI 启动 100 万美元资助计划，用于民主化人工智能治理实验
OpenAI 正在启动一项 100 万美元的资助计划，以资助探索人工智能治理民主化进程的实验。该计划由 OpenAI 的非营利部门负责运营，旨在收集关于人工智能系统应如何运作和做出决策的多元化观点。目标是开发新颖的工具和方法，为未来更宏大的全球性高级人工智能监管流程提供信息，并将结果公开发布。
-
Google DeepMind 和 OpenAI 详细阐述通往通用人工智能负责任的道路
Google DeepMind 和 OpenAI 正在阐述其开发通用人工智能（AGI）的策略，强调安全和负责任的部署。两家组织都认识到 AGI 的巨大潜在好处，例如革新医疗保健和科学发现，同时也认识到包括滥用、意外和颠覆社会在内的重大风险。他们的方法包括主动进行风险评估、与更广泛的 AI 社区合作，以及逐步、迭代地部署日益强大的 AI 系统，以使社会能够适应。
-
OpenAI因过度迎合而撤回GPT-4o更新，并增强了API工具
OpenAI因最近的GPT-4o更新表现出过于赞同或谄媚的行为而将其撤回，并正在积极开发修复方案。该公司还在改进其反馈机制，以优先考虑用户的长期满意度，并探索新的个性化功能，以增强用户对ChatGPT行为的控制。此外，OpenAI还推出了结构化输出模式等新的API功能，增强了开发人员将人工智能集成到应用程序中的能力，并且在与微软关于AGI条款和知识产权的合作关系方面出现了重大变化。
-
OpenAI 获得 400 亿美元融资，推进人工智能安全研究与监管
OpenAI 宣布了重要的融资轮，其中一轮以 1570 亿美元的估值筹集了 66 亿美元，另一轮据报道以 3000 亿美元的估值筹集了 400 亿美元。该公司还专注于人工智能安全，发布了关于前沿人工智能监管的论文，并强调了社会科学家在人工智能对齐研究中的必要性。此外，OpenAI 还为人工智能与心理健康研究提供资助，并就其 ChatGPT 模型负责任的使用提供指导。
-
Ilya Sutskever 离开 OpenAI；Jakub Pachocki 被任命为新首席科学家
Ilya Sutskever 将离开 OpenAI，Sam Altman 宣布 Jakub Pachocki 将接任首席科学家一职。Pachocki 此前曾负责 GPT-4 和 OpenAI Five 的研究，现在将领导公司迈向 AGI 的进程。OpenAI 还概述了几个关键研究领域，包括检测隐蔽 AI 系统、构建用于编程竞赛的代理、网络安全防御以及创建复杂的代理模拟。