牛津大学的 Lumai 公司发布了 Iris Nova，这是全球首个能够实时运行拥有十亿参数的大型语言模型的光学计算系统。该新系统显著降低了 AI 推理的能耗，比传统系统少用高达 90% 的能源。这一发展有望为企业提供更高效的 AI 服务。 AI
影响 可能降低 AI 推理的能源成本，从而实现 LLM 的更广泛部署。
排序理由 推出了一种新颖的计算系统，在 AI 推理方面实现了显著的能效提升。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
"World’s first optical computing system runs billion-parameter AI with 90% less power" Oxford-based Lumai has launched the world’s first optical computing system that can run a billion-parameter large language model (LLM) in real time. Dubbed Iris Nova, this server can help compa…