实体
Grace Hopper
Grace Hopper
PulseAugur coverage of Grace Hopper — every cluster mentioning Grace Hopper across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
人工智能对环境的影响：GPU的能源和用水量引发焦虑 · 已追踪2个来源
人工智能对环境的影响，特别是GPU和数据中心的能源和用水量，正日益成为人们关注的焦点。虽然人工智能带来了令人兴奋的可能性，例如为智能家居进行“氛围编码”，但它也引发了对污染和资源枯竭的担忧。NVIDIA、AMD、Intel、Microsoft、Google、Amazon、OpenAI、Meta和Apple Inc.等主要科技公司，以及台积电（TSMC）等制造商，在GPU生产和人工智能基础设施方面发挥着重要作用，因此成为讨论的中心。
-
IonRouter 推出具有自定义 IonAttention 引擎的 AI 推理服务
IonRouter 推出了新的推理服务，该服务专为高吞吐量和低成本而设计，并利用其专有的 IonAttention 引擎。该引擎能够将多个模型多路复用到单个 GPU 上，从而实现快速模型切换和实时流量适应。该服务支持各种开源模型和微调模型，提供按秒计费和极短的冷启动时间，适用于机器人技术和实时视频分析等应用。
-
IonRouter 和 RunAnywhere 发布新 AI 推理和设备端解决方案
IonRouter 推出了名为 IonAttention 的新推理堆栈，旨在通过在单个 GPU 上复用模型来实现高吞吐量和低成本，兼容 NVIDIA Grace Hopper。另外，RunAnywhere 发布了 RCLI，这是一款 macOS 的设备端语音 AI，使用其专有的 MetalRT 引擎在 Apple Silicon 上本地运行推理，提供本地 RAG 和 VLM 等功能。