PulseAugur
实时 22:25:50
English(EN) Announcing OpenAI-compatible API support for Amazon SageMaker AI endpoints

SageMaker AI 为模型端点增加 OpenAI 兼容 API 支持

Amazon SageMaker AI 现在为其实时推理端点提供 OpenAI 兼容 API 支持。通过简单地更新端点 URL,用户可以使用现有的 OpenAI SDK、LangChainStrands Agents 调用托管在 SageMaker 上的模型。新功能支持 bearer 令牌身份验证以实现安全访问,并支持多模型托管和部署微调后的开源模型,而无需修改代码。 AI

影响 简化了使用 OpenAI 生态系统的开发者与托管在 AWS 基础设施上的模型的集成。

排序理由 这是对现有服务的服务产品更新,使其能够兼容另一个生态系统,而不是一项新模型发布或核心研究。

在 AWS Machine Learning Blog 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

SageMaker AI 为模型端点增加 OpenAI 兼容 API 支持

报道来源 [1]

  1. AWS Machine Learning Blog TIER_1 English(EN) · Marc Karp ·

    Announcing OpenAI-compatible API support for Amazon SageMaker AI endpoints

    Today, Amazon SageMaker AI introduces OpenAI-compatible API support for real-time inference endpoints. If you use the OpenAI SDK, LangChain, or Strands Agents, you can now invoke models on SageMaker AI by changing only your endpoint URL. You don’t need a custom client, a SigV4 wr…