实体
Adaptive Rollout Scheduling
Adaptive Rollout Scheduling
PulseAugur coverage of Adaptive Rollout Scheduling — every cluster mentioning Adaptive Rollout Scheduling across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的EOPSA方法提高了LLM安全对齐的效率
研究人员推出了一种名为EOPSA的新方法，用于提高大型语言模型（LLM）安全对齐的效率和有效性。该方法解决了现有在线策略自蒸馏（OPSD）方法中的两个关键低效问题：在长生成序列中的监督崩溃和风格变化导致的梯度稀释。EOPSA采用自适应回滚调度（Adaptive Rollout Scheduling）动态限制生成范围，并采用选择性蒸馏（Selective Distillation）专注于安全关键的token，显著降低了计算开销，并提高了…
-
新的EOPSA方法提高了AI安全对齐的效率
研究人员开发了高效的策略内自蒸馏安全对齐（EOPSA）方法，以提高AI安全对齐的效率和有效性。EOPSA解决了现有策略内自蒸馏（OPSD）方法中的两个关键问题：长生成过程中的监督坍塌和风格变化导致的梯度稀释。通过使用自适应回滚调度和选择性蒸馏，EOPSA将计算资源集中在安全关键的token上，将计算量减少约50%，并且仅通过约2%的token进行反向传播。评估表明，EOPSA在参数量高达320亿的模型上，其安全合规性和推理保留能力均优…