PulseAugur
中
实时 10:38:16
Русский(RU) LLM впервые запустили на фотонном чипе: как Q.ANT и AMD скрестили оптику с GPU Частая боль при работе современных языковых моделей — механизм внимания или self-

Q.ANT和AMD的光子芯片运行LLM,挑战GPU的局限性

德国公司Q.ANT展示了一种混合方法来运行大型语言模型(LLM),将部分层卸载到光子协处理器上。这款新的NPU Gen 2+芯片通过一次性光传输执行离散傅里叶变换,旨在克服传统GPU在计算和内存方面的限制,尤其是在上下文长度不断增加的情况下。虽然Q.ANT声称这是世界首创,但英国初创公司Lumai早在2026年4月就推出了使用光学技术的完整LLM,实现了显著的节能效果。 AI

影响 这一发展可能带来更节能、更强大的LLM推理能力,有望降低硬件成本和环境影响。

排序理由 涉及LLM推理新硬件的研究里程碑。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Q.ANT和AMD的光子芯片运行LLM,挑战GPU的局限性

本文如何被排名

Signal score
17 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
涉及LLM推理新硬件的研究里程碑。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 Русский(RU) · [email protected] ·

    光子芯片首次搭载大语言模型:Q.ANT 与 AMD 如何将光学与 GPU 融合 现代语言模型工作的常见痛点是注意力机制或自-

    LLM впервые запустили на фотонном чипе: как Q.ANT и AMD скрестили оптику с GPU Частая боль при работе современных языковых моделей — механизм внимания или self-attention. С ростом контекста он требует квадратично больше вычислений и раздувает KV-кэш в памяти видеокарты. Чтобы обо…