实体
Model Serving Platform
Model Serving Platform
PulseAugur coverage of Model Serving Platform — every cluster mentioning Model Serving Platform across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
阿里云推出自助式 AI MaaS 平台
阿里云已推出其智能工作室平台的自助版，使企业能够在自己的基础设施上部署定制品牌的人工智能模型即服务（MaaS）解决方案。该平台允许公司通过提供专有或开源模型来变现现有的 GPU 资源，或转售第三方模型 API。自助部署由 AI 代理促进，与传统的本地 MaaS 解决方案相比，大大缩短了设置时间和成本。
-
Superhuman 和 Databricks 构建 200K QPS AI 推理平台
Superhuman 和 Databricks 的工程师合作构建了一个高吞吐量的推理平台，能够处理每秒超过 200,000 个查询。这项联合工作使 Superhuman 的服务堆栈现代化，从自定义的 vLLM 设置迁移到 Databricks 的 Model Serving Platform。优化后的系统实现了每 GPU 吞吐量提高 60%，并保持了亚秒级的 P99 延迟，使 Superhuman 能够专注于产品开发。