实体
Divergence Decoding
Divergence Decoding
PulseAugur coverage of Divergence Decoding — every cluster mentioning Divergence Decoding across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Divergence Decoding 在无需重新训练的情况下融合 LLM 能力
研究人员推出了一种名为 Divergence Decoding 的新型训练无关框架，旨在将专业科学语言模型的能与通用模型融合。该方法使用 Jensen-Shannon 散度来监测模型间的分布差异，当专家模型显示出显著差异时，动态地路由到通用模型。在 Qwen 和 Llama 系列模型上，跨越 GPQA 和 ChemBench 等基准测试，Divergence Decoding 表现优于单一模型基线，预示着 LLM 推理时自适应协作的新范式。
-
新的Divergence Decoding方法在推理时可移除LLM数据
研究人员开发了Divergence Decoding (DD) 方法，这是一种在推理时从大型语言模型中移除敏感数据的新颖方法。该技术采用小型辅助模型来引导LLM的输出远离特定信息，从而在不显著损失模型效用的情况下降低隐私和版权风险。在移除数据基准测试中，DD表现优于当前最先进的方法，并显示出泛化到图像生成等其他领域的潜力。