研究人员开发了SEDATE,一种新颖的无训练方法,通过选择性地检测和编辑负责不良行为的神经元来增强AI安全性。该方法在七种语言和四个模型家族中进行了评估,旨在提高安全性评分,同时不损害通用能力或产生显著的计算成本。SEDATE的有效性在分布外语言和数据集上得到了进一步验证,显示出稳健的性能。 AI
影响 这种新的无训练方法可以在不显著增加计算开销的情况下,使AI模型在多种语言中更安全、更可靠。
排序理由 该集群包含一篇学术论文,详细介绍了一种新的AI安全方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →