Anthropic开发了一种名为GRAM的新训练方法，旨在管理具有有益和有害应用潜力的AI能力。该方法将可能危险的双重用途能力（如病毒学知识）隔离到可移除的模块中。该公司与AE Studio合作进行这项研究，旨在通过控制敏感知识的部署来增强AI安全性。 AI
影响 该方法可能能够更安全地开发和部署具有敏感知识的AI模型。
排序理由 该集群描述了AI实验室开发的一种新研究方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
