AdviSD

AdviSD方法通过自蒸馏训练顾问模型来指导LLM

研究人员开发了AdviSD，一种通过自蒸馏训练顾问模型来指导大型语言模型（LLM）的新颖方法。该技术通过选择性地从反馈中学习，即使在纠正不改变执行器即时输出的情况下，也能增强顾问提供有效建议的能力。实验表明，当使用Qwen3_8B顾问指导Gemini和Claude模型在BFCL v3和EnvScaler等基准上运行时，AdviSD的性能显著优于顾问-GRPO等现有方法。训练好的顾问在各种任务和模型家族中表现出泛化能力。