ZeroGPU 推出了新的批量 API，旨在处理大规模、异步的 AI 推理任务。此功能允许用户上传包含多个请求的 JSONL 文件，将其作为批量作业提交，并在处理完成后检索结果。该 API 特别适用于文档分类、数据提取和内容审核等工作负载，在这些场景下，吞吐量和可靠性比实时响应更重要。 AI
影响 简化大规模 AI 推理，降低异步任务的编排复杂性。
排序理由 文章描述了 AI 服务的新产品功能，而非核心模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><a class="article-body-image-wrapper" href="https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fu5y6uzjeo13l5rrv6jat.webp"><img alt=" " src="https://media2.de…