Amazon SageMaker HyperPod 现在支持大型语言模型 (LLM) 推理的分离式预填充和解码 (DPD) 技术。该技术将提示处理（预填充）和令牌生成（解码）阶段分离到不同的 GPU 池上，并通过支持远程直接内存访问 (RDMA) 的 Elastic Fabric Adapter (EFA) 进行连接。DPD 特别有利于长上下文、高并发的流式工作负载（例如聊天助手和 RAG 应用），因为它能防止长提示阻塞正在进行的解码请求，并允许独立调整首次令牌时间和令牌间延迟。 AI
影响 优化 LLM 推理基础设施，可能降低成本并提高要求苛刻的应用的响应时间。
排序理由 文章描述了一个现有平台的新功能或优化，而不是一个新颖的模型发布或基础研究。
在 AWS Machine Learning Blog 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
