D-RPC

新的D-RPC方法改进了LLM推理蒸馏

研究人员开发了一种名为推理路径压缩蒸馏（D-RPC）的新方法，以改进将大型语言模型（LLM）的推理能力蒸馏到更小模型的过程。该技术通过约束LLM使用动态的可重用推理路径库来解决教师推理不一致的问题。PAC-Bayes分析支持该库的大小和覆盖范围之间的权衡，表明中间大小是最佳的。在五个基准测试上的实验表明，D-RPC在准确性方面优于其他蒸馏方法，同时使用的token更少。