Atomic Intent Reasoning

大语言模型框架AIR将电子商务推荐速度提升400倍

研究人员开发了一个名为AIR（Atomic Intent Reasoning，原子意图推理）的新框架，以应对将大语言模型（LLMs）应用于工业跨域推荐系统的挑战。该框架通过将大语言模型推理迁移到离线阶段，解决了跨域语义鸿沟和用户行为数据嘈杂等问题。这种方法将推理速度提高了约400倍，同时保持了语义一致性。在真实电子商务环境中进行的大规模A/B测试表明，关键业务指标得到了显著改善，包括GMV（商品交易总额）增长了3.446%。