Teacher Rescue Rate

新的EOPSA方法提高了AI安全对齐的效率

研究人员开发了高效的策略内自蒸馏安全对齐（EOPSA）方法，以提高AI安全对齐的效率和有效性。EOPSA解决了现有策略内自蒸馏（OPSD）方法中的两个关键问题：长生成过程中的监督坍塌和风格变化导致的梯度稀释。通过使用自适应回滚调度和选择性蒸馏，EOPSA将计算资源集中在安全关键的token上，将计算量减少约50%，并且仅通过约2%的token进行反向传播。评估表明，EOPSA在参数量高达320亿的模型上，其安全合规性和推理保留能力均优…