TRAIT&R

GDM 发布人工智能控制路线图，借鉴网络安全威胁建模

GDM 人工智能控制路线图（v0.1）已发布，概述了用于检测和缓解对抗性人工智能代理行为的内部防护措施计划。该路线图借鉴了 MITRE ATT&CK 等网络安全框架的灵感，引入了 TRAIT&R 进行威胁建模，并将潜在的人工智能威胁归类为失控、工作破坏和直接伤害。它建立了用于检测不当意图的控制不变量，并提出了基于能力的方法来缓解风险，建议了根据不断发展的模型能力分层的 15 种具体防御措施。