PulseAugur
中
实时 16:41:39
English(EN) Modular Pretraining Enables Access Control

新的GRAM方法为双重用途能力提供模块化AI访问控制

作者 PulseAugur 编辑部 · [3 个来源] ·

研究人员开发了梯度路由辅助模块（GRAM），这是一种新颖的预训练方法，旨在解决AI开发中的双重用途困境。GRAM允许在单个AI模型中选择性地禁用特定能力，以极低的成本近似训练经过筛选数据的独立模型的效果。这种方法实现了细粒度的访问控制，允许将敏感知识限制在受信任的部署中，同时保持通用性能。实验表明，GRAM能够有效地隔离病毒学和网络安全等各个领域的特定能力，并且即使在微调后也能保持这种隔离。 AI

影响 能够更精细地控制AI能力，可能减轻与双重用途技术相关的风险。

排序理由 该集群描述了一种在学术论文中发布的新AI模型预训练方法。

在 Alignment Forum 阅读 →

AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →

新的GRAM方法为双重用途能力提供模块化AI访问控制

报道来源 [3]

  1. arXiv cs.LG TIER_1 English(EN) · Ethan Roland, Murat Cubuktepe, Erick Martinez, Stijn Servaes, Keenan Pepper, Mike Vaiana, Diogo Schwerz de Lucena, Judd Rosenblatt, Addie Foote, Cem Anil, Alex Cloud ·

    模块化预训练实现访问控制

    arXiv:2607.08077v1 Announce Type: new Abstract: AI developers face a dual-use dilemma. An AI capability that helps one user cure a disease can help another synthesize one. This dilemma could be resolved with access control, limiting dual-use AI capabilities to trusted deployments…

  2. Alignment Forum TIER_1 English(EN) · E.Roland ·

    模块化预训练实现访问控制

    <p><i><span>Full author list: Ethan Roland</span></i><span>*</span><i><span>, Murat Cubuktepe</span></i><span>*</span><i><span>, Erick Martinez</span></i><span>*</span><i><span>, Stijn Servaes, Keenan Pepper, Mike Vaiana, Diogo Schwerz de Lucena, Judd Rosenblatt, Addie Foote, Cem…

  3. LessWrong (AI tag) TIER_1 English(EN) · E.Roland ·

    模块化预训练实现访问控制

    <p><i><span>Full author list: Ethan Roland</span></i><span>*</span><i><span>, Murat Cubuktepe</span></i><span>*</span><i><span>, Erick Martinez</span></i><span>*</span><i><span>, Stijn Servaes, Keenan Pepper, Mike Vaiana, Diogo Schwerz de Lucena, Judd Rosenblatt, Addie Foote, Cem…

相关实体

相关话题