Hierarchy-Aware SID Distillation

新的SmartGR框架提升生成式推荐模型效率

研究人员开发了SmartGR，一个旨在提高生成式推荐（GR）模型效率和性能的新知识蒸馏框架。该框架解决了GR中的两个关键挑战：跨语义ID（SID）层次结构蒸馏知识的难度不同，以及束搜索过程中前缀修剪不正确的问题。SmartGR结合了层次感知SID蒸馏和束感知排序蒸馏，有效地将知识从大型模型转移到小型模型。实验表明，SmartGR在四个基准数据集上将性能提高了8.6%，并将平均推理速度提高了2.39倍。