OpenAI 发布了其代号为 Jalapeño 的定制推理芯片的性能数据。据报道,在使用 GPT-OSS 120B 模型进行 InferenceX 基准测试时,该芯片的峰值吞吐量每千瓦和令牌延迟均优于现有的商业系统。这标志着 OpenAI 在开发自己的专用 AI 推理硬件方面迈出了重要一步。 AI
影响 展示了 OpenAI 向定制硬件迈出的步伐,可能提高推理效率并减少对第三方供应商的依赖。
排序理由 Frontier-lab 公布定制推理芯片性能。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
在 X — Greg Brockman (OpenAI) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →