DeepSeek 发布了 DeepInfer,这是一个开源的推理引擎,旨在同时支持英伟达和华为昇腾硬件。此举旨在促进中国企业跨硬件部署,可能规避美国出口限制并挑战英伟达的市场主导地位。DeepInfer 经过精心设计,可在混合芯片系统上实现高效运行,而不会影响性能。 AI
影响 促进AI推理更广泛的硬件采用,可能减少对单一供应商的依赖并规避出口管制。
排序理由 发布支持多种硬件类型的开源推理引擎。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →