server
PulseAugur coverage of server — every cluster mentioning server across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
免费LLM服务器：探究性能并规避陷阱
多篇文章讨论了使用免费LLM模型服务器和配额的挑战与最佳实践，强调这些服务是共享队列而非专用资源。文章着重指出在负载下测量性能的重要性，因为由于并发使用，延迟和可靠性可能差异很大。作者提供了脚本和方法来探查这些免费层级，评估令牌使用量、请求限制和响应时间等因素，以确定它们是否适用于特定工作负载，特别是对于非生产或批量任务。
-
Ray 库简化 TPU 上的分布式 AI
Ray 发布了其 Serve、Data 和 Train 库的更新，旨在简化在张量处理单元 (TPU) 上运行分布式 AI 工作负载的过程。这些增强功能旨在抽象化与 TPU 相关的复杂性，使开发人员更容易管理多主机模型调度、克服数据加载瓶颈以及简化 AI 训练和部署的跨切片协调。
-
人工智能热潮加剧电子垃圾危机，新增数百万吨硬件垃圾
人工智能的快速扩张正在加剧全球电子垃圾危机，数据中心需要频繁升级硬件。研究人员估计，这种由人工智能驱动的硬件更新每年可能产生约250万公吨的电子垃圾，其重量相当于250座埃菲尔铁塔。废弃电子产品这一日益严重的问题已经是全球增长最快的废物类别，预计到2030年将达到每年8200万公吨。
-
上海人工智能算力出口激增，带动显著增长
今年上半年，上海制造的人工智能相关产品，包括服务器、光模块、集成电路、工业变压器和储能电池等，出口增长显著。人工智能算力供应链出口的激增已成为上海整体出口势头的关键驱动力。官员们将此增长归因于集成电路和人工智能等领先产业的迭代发展，这刺激了整个高端电子产品出口链的结构性和持续性扩张。
-
AI需求下NAND Flash供应预计在27下半年缓解；新材料公司成立
根据TrendForce的数据，预计2027年下半年NAND闪存市场的供应状况将有所改善。尽管2026年AI需求激增导致短缺，但预计产能增加和持续强劲的服务器需求将缓解供应紧张。另外，一家名为绵阳汇聚高分子材料有限公司的新公司成立，注册资本13.5亿元人民币，由惠科股份有限公司和绵阳安易光诚产业园管理有限公司共同出资，专注于电子材料和元器件领域。
-
亚马逊部署新的 RNG 网络拓扑，声称节省 45% 的成本
亚马逊开发并部署了一种名为弹性网络图（RNG）的新网络拓扑，它偏离了传统的胖树架构。RNG 利用随机图的概念，使用混洗盒（shuffle boxes）代替机顶（ToR）交换机之间的直接连接。这种方法得到了亚马逊专有的路由协议 Spraypoint 的支持，声称与胖树相比，成本可节省高达 45%。
-
欧洲人工智能模型战略因服务器基础设施担忧而受到质疑
一篇Mastodon帖子质疑欧洲开发人工智能模型的战略，暗示其依赖现有、可能过时的服务器基础设施。该帖子幽默地暗示欧洲在人工智能开发方面的方法可能效率低下，并将其与现代数据中心的高级功能进行了对比。
-
英信发展企业级DRAM存储实现量产
英信发展宣布，其主要面向服务器和数据中心的 enterprise-grade DRAM 存储产品已实现量产并正在批量交付。公司 enterprise 业务正加速扩张，以满足云服务提供商在技术能力、可靠性和服务质量方面的严苛要求。
-
公司裁员以投资人工智能，成本不断上升
据报道，公司继续裁员以资助其在人工智能领域的投资。这些裁员的主要驱动因素并非自动化取代工人，而是人工智能开发所需的服务器和 GPU 成本不断升级。这种财务策略涉及将资本从薪资转向人工智能芯片和数据中心。