Frontier Alignment Research
PulseAugur coverage of Frontier Alignment Research — every cluster mentioning Frontier Alignment Research across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
个人现在可以将闲置算力出租用于AI推理
新兴公司允许个人出租其闲置计算能力用于AI推理任务，这与网约车和住宿共享平台有相似之处。这种方法旨在去中心化计算资源，为大型、资源密集型数据中心提供替代方案。Far Labs和Evolving Edge等平台正在推出服务，将拥有闲置硬件的个人与需要推理能力的AI公司联系起来，重点关注计算提供商的安全和隐私。
-
Manifund 正在为 2026 年资助计划寻找再资助者
Manifund 正在寻找个人担任其 2026 年资助计划的再资助者，目标是向每位选定的再资助者分配 50,000 美元的资金池。该组织正在寻找具有良好品味、交易渠道和执行力的人，他们将从过去的成功再资助者名单以及其他在做出有影响力的资助方面有良好记录的个人中选拔。该计划旨在创建一个反馈循环，让过去做出过明智决策的人能够分配更多资金。
-
人工智能安全排行榜发现 Claude Fable 5 和 GPT-5.6 Sol 可抵御越狱
一项新的研究论文介绍了“安全最低标准”1.0 版，这是一个用于评估前沿人工智能模型抵御越狱技术安全性的基准。该研究使用 CBRNE 和网络攻击威胁方面的 67 种静态越狱方法测试了 Claude Fable 5、GPT-5.6 Sol、Gemini 3.1 Pro 和 Grok 4.5。结果显示了稳健性方面的显著差异，Grok 4.5 和 Gemini 3.1 Pro 比 Claude Fable 5 和 GPT-5.6 Sol 更易…
-
前沿AI模型易受攻击，报告发现 · 追踪3个来源
AI安全非营利组织FAR.AI的一份新报告显示，一些领先的AI模型容易被绕过安全限制，从而使其能够规避安全防护措施。该研究测试了来自Anthropic、Google、OpenAI和SpaceXAI的模型，发现Grok和Gemini最容易受到攻击。绕过这些模型限制的成本出奇地低，凸显了对AI行业监管缺失的担忧。尽管一些公司正在投资安全改进，但专家强调需要外部标准和监管。
-
2026年瑞士人工智能安全日定于11月7-8日在苏黎世联邦理工学院举行
2026年瑞士人工智能安全日会议定于11月7日至8日在苏黎世联邦理工学院举行，该会议建立在2025年首届活动成功的基础上。今年的会议旨在接待300多名与会者和30个组织，并扩大其计划，以包含更多的交流机会、技术研究、治理、领域建设和职业发展。该活动面向希望扩大职业人脉、获得人工智能安全专家见解以及发现新的职业或合作机会的个人。