实体
AI Control Roadmap
AI Control Roadmap
PulseAugur coverage of AI Control Roadmap — every cluster mentioning AI Control Roadmap across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
谷歌实施AI控制路线图以严格监督AI代理
谷歌正在实施一项AI控制路线图，这是一个严格的监督系统，要求在授予AI代理权限之前对其采取的每一步进行验证。这种方法摒弃了仅仅依赖算法伦理的做法。
-
GDM 发布人工智能控制路线图，借鉴网络安全威胁建模
GDM 人工智能控制路线图（v0.1）已发布，概述了用于检测和缓解对抗性人工智能代理行为的内部防护措施计划。该路线图借鉴了 MITRE ATT&CK 等网络安全框架的灵感，引入了 TRAIT&R 进行威胁建模，并将潜在的人工智能威胁归类为失控、工作破坏和直接伤害。它建立了用于检测不当意图的控制不变量，并提出了基于能力的方法来缓解风险，建议了根据不断发展的模型能力分层的 15 种具体防御措施。