Volume-Weighted Absolute Lift

PromptPack 为推荐平台将 LLM 注释成本降低 89%

研究人员开发了 PromptPack，这是一个旨在降低在线推荐平台使用大型语言模型 (LLM) 的成本并提高效率的新系统。该系统通过实现上下文批处理来解决与单个 LLM 调用相关的高令牌成本问题，该批处理结合了共享系统提示和严格的 XML 结构来同时处理多个广告素材。据报道，与现有方法相比，这种方法将 LLM 成本降低了 89%，吞吐量提高了 2.5 倍，同时保持了 AUC 等性能指标，并引入了一个名为 Volume-Weighted…