SnapLGR

Snapchat部署基于LLM的生成式检索系统用于视频推荐

Snapchat推出了SnapLGR，一个用于其短视频推荐服务的新生成式检索系统。该系统利用大型语言模型（LLMs）通过从多模态项目嵌入中创建语义标识符（SIDs）并利用对比学习对其进行增强来改进内容发现。该系统还结合了在用户互动数据上的持续预训练和监督微调，以及使用TensorRT-LLM的高效服务架构。在实际A/B测试中，SnapLGR在用户参与度指标方面显示出显著的改进，包括观看时间增加0.37%，深度会话增加0.18%。