OpenAI 披露了其定制推理芯片(代号 Jalapeño)的细节,据报道,与 NVIDIA 的 Blackwell 和 Rubin 系列系统相比,该芯片在效率和延迟方面有了显著提升。该芯片专为 OpenAI 的自有基础设施设计,声称在实际模型工作负载中,每瓦特性能提升 1.5–1.9 倍,延迟降低 1.7–3.6 倍。值得注意的是,OpenAI 利用其自身的 AI 模型 GPT-Astra 和 Codex 来协助编写和优化芯片的底层内核,这表明 AI 在硬件开发中的整合日益加深。 AI
影响 这一发展预示着 AI 基础设施可能发生转变,主要实验室正在开发自己的硬件,这可能会减少对 NVIDIA 等成熟芯片制造商的依赖。
排序理由 前沿实验室(OpenAI)发布带有基准测试细节的定制推理芯片。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →