研究人员探索了在模型外监督微调（SFT）用于安全目的时，减轻AI模型能力衰减的方法。他们发现，虽然模型外SFT会抑制能力，但这些能力可能并未永久丢失。通过在模型外SFT后加入少量模型内数据，或通过策略性地混合数据分布，可以在不显著重新引入不良行为的情况下恢复模型能力。 AI
影响 新技术可能允许在不牺牲性能的情况下实现更安全的AI模型，从而可能加速先进AI系统的部署。
排序理由 该集群描述了关于AI安全技术的学术研究，特别是探索在微调过程中改善AI模型能力保留与行为移除之间权衡的方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
