中文(ZH) 日均6万亿Token服务背后，商汤大装置如何提升推理效能？

商汤优化AI基础设施以实现海量Token输出

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-19 05:22

商汤的“大汪识事”开发了先进的AI基础设施，以应对多智能体系统驱动的Token需求指数级增长。该公司正通过PD（Prefill/Decode）分离和AF（Attention/FFN）分离等创新架构方法，专注于优化Token生产效率。这些技术旨在提高大规模、异构计算集群的成本效益和稳定性，使商汤能够管理每日高达6万亿Token的服务，并预计到2026年底将增长25倍。 AI

影响优化AI基础设施的效率和成本，从而为先进的AI应用实现更高质量的Token生产。

排序理由公司公告，详细介绍了新的AI基础设施架构和性能指标。[lever_c_demoted from significant: ic=1 ai=1.0]

在量子位 (QbitAI) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 4 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Research; 公司公告，详细介绍了新的AI基础设施架构和性能指标。[lever_c_demoted from significant: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra, product; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

量子位 (QbitAI) TIER_1 中文(ZH) · 量子位的朋友们 · 2026-10-19 05:22

日均6万亿Token服务背后，商汤的“大王之石”如何提升推理性能？

AI基础设施竞争转向高质量Token产能

本文如何被排名

报道来源 [1]

日均6万亿Token服务背后，商汤的“大王之石”如何提升推理性能？

相关实体

相关话题