DeepSeek 发布了 DeepInfer,一个开源的大规模深度学习推理工具包,集成了分布式推理、缓存和负载均衡。Google 和 Meta 合作通过 TorchTPU 后端为 Tensor Processing Units (TPUs) 带来了原生 PyTorch 支持,优化了模型训练和推理。此外,Ramp 为其产品开发了 Laminar,一个内部代理系统,具备安全存储、工具集成和可观测性。 AI
影响 这些更新提高了 AI 部署效率,优化了 PyTorch 的硬件利用率,并为构建 AI 代理提供了强大的平台。
排序理由 该集群涵盖了多项 AI 基础设施和产品更新,包括推理工具包、框架支持和代理平台,但不代表前沿发布或重大的行业范围转变。
- DeepInfer: Open-Source Deep Learning Deployment Toolkit for Image-Guided Therapy
- DeepSeek
- DeepSeek V4.1 Flash
- Headspace
- LiveKit
- Meta*
- Mini TTS 3
- PyTorch
- Ramp
- SGLang
- Small Transcribe 3
- SpaceXAI
- Spotify
- TorchTPU
- Vercel
- vLLM
- Voxtral 3
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →