Anthropic开发了一种名为GRAM（Generative Model Access Control）的新方法，可以有选择地禁用AI模型中的危险技能。该技术能够从一次训练中创建多个模型版本，并关闭特定的有害功能。GRAM旨在防止通过后续微调轻易重新启用这些被禁用的技能，从而解决了强大AI模型的双重使用性质问题。 AI
影响 通过提供一种控制高级模型中潜在有害功能的机制，这项开发可能带来更安全的AI部署。
排序理由 该条目描述了Anthropic开发的一种控制AI能力的新方法，属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
