ZML发布了一个新的生产推理栈，旨在独立于特定硬件运行AI工作负载。该系统旨在将任何AI模型直接编译到NVIDIA、AMD、TPU或Trainium加速器，而无需重写代码。ZML通过直接编译到硬件并避免Python运行时或隐藏状态抽象来强调性能和可预测性。 AI
影响 通过将AI模型与其特定硬件解耦，实现了更广泛的部署，可能降低成本并提高灵活性。
排序理由 这是AI基础设施工具的产品发布，不是前沿模型发布或重大的行业事件。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →