韩国初创公司 Furiosa AI 开发了一款新的推理芯片 Renegade，该芯片基于 5nm 工艺节点，拥有 48GB HBM3 VRAM 和 1.5TB/s 的内存带宽。虽然最初并非面向消费市场，但该芯片已与 LG 的大语言模型进行了测试。该公司开放其编程接口的潜力可能对本地大语言模型格局产生重大影响，特别是如果其定价在 2.5k 美元左右具有竞争力的话。 AI
影响 如果该芯片能够面向消费者推出，其高内存带宽和 VRAM 将可能显著提升本地大语言模型的性能。
排序理由 推出具有潜在行业影响力的全新推理芯片。[lever_c_demoted from significant: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
