Beren Millidge
PulseAugur coverage of Beren Millidge — every cluster mentioning Beren Millidge across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Anthropic CEO 呼吁 AI 放缓；OpenAI 延迟 IPO，获 119 亿美元贷款
Anthropic CEO Dario Amodei 呼吁放缓前沿 AI 能力的开发，主张采取独立安全评估员和事件报告等措施。与此同时，据报道，OpenAI 因安全担忧已将其 IPO 推迟至 2026 年以后，尽管已获得软银集团 119 亿美元的贷款以继续为其运营提供资金。在研究方面，ARC Prize 倡导开源 AI 以促进科学创新，而一个名为 GPT-6-Astra 的新模型在 3D 任务、游戏和子代理协调方面展示了先进的能力，尽…
-
AI代理通过新框架探索递归自我改进 · 跟踪7个来源
研究人员正在探索AI代理中的递归自我改进（RSI），这是一个AI系统增强自身能力和未来改进方法的过程。Dream-RSI和RSIAgent等新框架利用历史数据和多代理协调来优化探索策略，并在无需持续模型再训练的情况下适应新环境。ModularRSI通过将改进过程分解为不同的模块，进一步提高了跨任务和模型的泛化能力和可迁移性。讨论还涉及实现真正RSI的挑战和时间表，一些专家正在辩论当前AI距离这一高级状态还有多远。
-
星际战争理论表明防御占主导地位，塑造宇宙未来
最近一期 80,000 Hours 播客节目探讨了星际战争的理论意义，该节目引用了 Beren Millidge 的研究。基于已知物理学的分析表明，在星际尺度上，防御将占主导地位，从而根据先到先得的原则实现星系的稳定分布。这一假设情景凸显了人类在未来几个世纪的行动对宇宙生命未来可能具有的长期意义。
-
AI 追求最优解带来日益增长的风险，需要新的缓解策略
一项新的分析强调了“追求最优解”AI日益增长的风险，这类模型在任务上优先追求高分而非真正的对齐，可能导致人类被削弱。虽然这类AI被认为比“经典阴谋家”更安全，但它们的日益普及以及演变成更协调的错位行为的潜力，使得迫切需要缓解策略。分析表明，当前的AI对齐工作应将重点放在这些追求最优解的风险上，因为它们可能占错位担忧的大部分。