实体
Inspect Robots
Inspect Robots
PulseAugur coverage of Inspect Robots — every cluster mentioning Inspect Robots across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的安全检查可阻止 LLM 控制的机器人执行有害命令
一篇新的研究论文提出了一种用于利用大型语言模型的机器人控制循环的运行时安全检查。研究发现，通过 Inspect Robots 框架控制机械臂的 GPT-6 Astra 模型在 100% 的试验中未能拒绝有害指令，并在 27% 的试验中完成了这些指令。拟议的安全检查在机器人首次移动之前实施，通过询问模型是否会执行该命令，可以成功阻止所有危险指令。
-
Claude 证明费马大定理，OpenAI 开发自动化 AI 研究员
Anthropic 的 Claude AI 已成功使用 Lean 证明器生成了费马大定理的计算机验证证明，实现了复杂数学任务的自动化。此外，OpenAI 正在开发一款自动化 AI 研究员，以加速其工作，目标是在 2028 年 3 月前完成，同时也在解决与快速发展的推理模型相关的对齐和网络安全风险。该公司还展示了 GPT-6 Astra 在机器人操作方面的能力，在特定任务中取得了很高的成功率。