研究人员开发了LEGIT,一个用于生成式推荐器约束解码的新颖系统,特别适用于Uber Eats搜索引擎等应用。LEGIT解决了确保生成内容(如结果页面上的商店和商品列表)遵守资格和非重复等动态规则的挑战。该系统使用目录上的trie来维护标识符准确性,并为动态约束实现范围查找,通过将trie遍历卸载到CPU,实现了比直接GPU实现快65.9%的加速。 AI
影响 提高了生成式推荐系统的效率和准确性,可能影响电子商务搜索和发现。
排序理由 该项目是一篇在arXiv上发表的详细介绍新技术的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →