实体
AI safety experts
AI safety experts
PulseAugur coverage of AI safety experts — every cluster mentioning AI safety experts across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Anthropic首次公开募股文件强调了投资者和政策制定者的生存性AI风险
Anthropic最近的首次公开募股（IPO）文件将生存性AI风险的概念推到了最前沿，标志着各利益相关者（stakeholders）的一个重要时刻。该披露预计将影响投资者、政策制定者和AI安全专家。该文件详细介绍了Anthropic管理这些风险的方法及其对AI治理的更广泛影响。
-
OpenAI 的新不透明推理技术引发 AI 安全专家担忧
据报道，OpenAI 正在为其 Astra 模型开发一种名为“循环深度”或“不透明递归”的新推理技术，这可能会使 AI 模型更难被监控。这一发展令 AI 安全专家感到担忧，他们认为“思维链”等监控技术对于检测不一致和确保 AI 安全至关重要。尽管 OpenAI 声称其对该技术的使用有限，并强调其对可监控性的承诺，但人们仍然担心进一步发展可能会严重损害理解 AI 决策过程的能力。