Nvidia Gpus
PulseAugur coverage of Nvidia Gpus — every cluster mentioning Nvidia Gpus across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
GLM-5.3-Flash 发布,在中国芯片上实现日处理 100T token
一款名为 Ox Alpha 的新模型已发布为 GLM-5.3-Flash,能够每天处理 100 万亿个 token。值得注意的是,据报道,这种巨大的处理能力是使用中国芯片实现的,其硬件效率和每个 token 的成本可与 Nvidia GPU 相媲美。这一发展挑战了现有硬件供应商的主导地位,并预示着大规模人工智能计算格局的转变。
-
Cohere 通过 MLX、Axolotl 和 NVIDIA 集成扩展了 North Micro Vision 模型支持
Cohere 宣布为其 North Micro Vision 模型提供扩展支持,支持在各种平台上进行微调和部署。该模型现在支持 MLX,可在 Apple 设备上高效运行,并与 Axolotl.ai 集成以简化训练。此外,Cohere 还与 NVIDIA 合作,提供了一个 AutoModel 配方,用于在 NVIDIA GPU 上部署 North Micro Vision,从而提高了其对开发者的可访问性。
-
人工智能数据中心能耗巨大引发争议 · 追踪4个来源
人工智能数据中心的能耗日益受到关注,据估计,一个装有Nvidia GPU的千兆瓦级超大规模数据中心容量,其用电量可能相当于70万至100万人的用电量。该话题正在Mastodon和YouTube等多个平台讨论,并提及Palantir和《终结者》系列等相关实体。
-
Mirendil 获得超 1 亿美元 Google Cloud 协议,用于自我改进的 AI 研究 · 跟踪 3 个来源
AI 初创公司 Mirendil 已与 Google Cloud 达成一项重要的多年合作伙伴关系,价值超过 1 亿美元。该协议将为 Mirendil 提供大量的计算能力,包括 Google 的 TPU 和 Nvidia GPU,以加速其在自我改进 AI 方面的研究。此次合作旨在利用 AI 自动化科学发现,并推动医学和材料科学等领域的发展。
-
AssemblyAI 将其语音 AI 与 NVIDIA 模型进行对比,以用于生产环境
AssemblyAI 发布了其语音转文本模型与 NVIDIA 的 Parakeet 和 Canary 模型之间的对比评测,强调了基准测试准确性与生产环境准确性之间的差异。虽然 NVIDIA 的模型在标准基准测试中表现出色,并在 NVIDIA GPU 上提供快速推理,但 AssemblyAI 强调其专用的 Medical Mode 和上下文提示功能,以提高在医疗保健等实体密集型领域的准确性。该对比还涉及说话人分离准确性和合规性功能,例如…
-
新的LeakyLMs攻击通过时间戳揭示Gemini Flash 2.5架构
研究人员开发了一套名为LeakyLMs的新攻击方法,通过分析令牌生成的时间戳,可以推断出有关语言模型的专有信息,包括其架构和推理优化。此方法甚至可以通过远程API提取详细信息。一项攻击成功识别出Google Gemini Flash 2.5使用了具有约128K令牌草稿上下文窗口的推测性解码。另一项攻击可以恢复架构属性,如Transformer层数、隐藏层维度大小和注意力头数,在识别Llama模型配置方面准确率超过90%。
-
OpenAI升级ChatGPT,SpaceXAI重塑Grok品牌,SambaNova集成Nvidia GPU
OpenAI通过GPT-Live增强了ChatGPT的对话能力,实现了同时说话、倾听和制定响应。与此同时,原名X.AI的SpaceXAI正在将其Grok模型重塑品牌,以显得更专业,旨在将其定位为法律顾问和Excel助手。此外,由Intel支持的AI芯片初创公司SambaNova,通过与老旧的Nvidia GPU集成,在基准测试中实现了高令牌生成率,展示了令人印象深刻的性能。
-
VTC框架消除了深度神经网络编译中的数据移动
研究人员开发了VTC,一个旨在消除不必要数据移动的新型深度神经网络(DNN)编译框架。该框架引入了虚拟张量的概念,通过索引映射而非全局内存的物理传输来跟踪数据移动。VTC旨在解决计算和内存延迟之间日益扩大的差距,这是当前大型语言模型等DNN工作负载的关键问题。评估显示,VTC的性能可超越现有ML编译器高达1.93倍,并实现显著的推理内存节省。
-
Valve为Steam硬件提供Windows驱动程序但不支持
Valve已发布驱动程序和信息资源,以方便在其Steam硬件上安装Windows,包括Steam Deck LCD、Steam Deck OLED和Steam Machine。虽然这些资源旨在帮助用户替换默认的SteamOS,但Valve明确表示,它不会为在其设备上安装Windows提供客户支持。该公司指示用户在遇到问题并希望恢复到SteamOS时,参考恢复说明。
-
Apple 的 iOS 更新将 iWork 数据发送至 Google Cloud,与其隐私声明相悖
Apple 近期的 iOS 更新(版本 26/27)在某些功能的运作方式上做出了改变,特别是关于 iWork 中的形状生成。此前,Apple 一直强调数据隐私,但这些新版本现在会将此数据发送至 Google Cloud 进行处理。尽管 Apple 此前曾保证用户数据将保留在设备上,但此次处理利用了 Google 数据中心内的 Nvidia GPU。
-
NVIDIA GPU 和 Grace CPU 为全球 81% 的最快超级计算机提供动力
NVIDIA 技术在最新的 TOP500 和 Green500 超级计算机排名中占据主导地位,为 TOP500 系统中的 81% 和 Green500 排名的前八名提供动力。该公司日益将 Grace CPU 和 GPU 集成到这些高性能机器中,Grace CPU 的采用量翻了一番。这种广泛的应用凸显了对人工智能、模拟和科学研究中加速计算日益增长的需求,NVIDIA 系统整体上提供了优于所有其他平台的卓越人工智能训练和推理能力。
-
NVIDIA 通过新基础设施和软件加强科学 AI · 跟踪 2 个来源
NVIDIA 正在通过提供先进的 AI 基础设施和新的软件工具来加强科学研究。国家人工智能研究资源(NAIRR)试点项目在 NVIDIA 的 DGX 节点和技术支持下,已支持了跨越多个科学领域的 700 多个项目。NVIDIA DAQIRI、ALCHEMI NIM 微服务和 cuPhoton 等新软件正在加速化学、材料发现和天文学等领域的的数据处理和分析,将数小时的 CPU 工作转化为实时 GPU 加速的管道。
-
混合精度 CA-SGD 加速 GPU 训练
研究人员开发了一种用于 GPU 上的广义线性模型的混合精度通信规避 SGD (CA-SGD) 方法。该方法旨在通过将通信分摊到多个迭代中来减少分布式训练中的通信瓶颈。该方法利用现代 GPU 的矩阵硬件和较低精度格式来加速计算并缩小数据传输,与标准的 FP32 SGD 相比实现了显著的加速。
-
Apple 将安全技术扩展至 Google Cloud,支持私有云计算
Apple 正在将其私有云计算 (PCC) 服务扩展到其自有数据中心之外的 Google Cloud,为其即将推出的 Apple Intelligence 功能提供更复杂的 AI 处理能力。此次扩展利用了 NVIDIA 的机密计算技术,特别是 Blackwell GPU,以确保用户数据在处理过程中保持私密和安全。与 Google 和 NVIDIA 的合作旨在为服务器端 AI 推理提供强大的安全性和透明度,即使托管在第三方基础设施上。
-
Mac 对 NVIDIA GPU:为本地 LLM 选择合适的硬件
在本地运行大型语言模型方面,Apple Silicon Mac 和 NVIDIA GPU 各有优势。Mac 因其统一内存架构,在运行大型模型推理方面表现出色,可以更轻松、更安静地处理高达 70B 参数的模型。然而,NVIDIA GPU 在运行小型模型方面提供卓越的原始速度,并且由于其 CUDA 生态系统,对于微调和生产服务等任务至关重要。
-
Prism ML 发布紧凑型 Bonsai Image 4B 扩散模型
Prism ML 发布了 Bonsai Image 4B,这是一款利用三元权重实现显著尺寸缩减的文本到图像扩散模型。该模型提供两个版本:一个使用 MLX 针对 Apple Silicon 进行了优化,另一个使用 Gemlite 部署针对 NVIDIA GPU 进行了优化。尽管尺寸紧凑,该模型仍能实现快速生成速度,尽管用户指出文本渲染效果可能不佳,但其他图像方面却出奇地好。
-
NVIDIA 和 Google Cloud 通过新工具推动人工智能开发者社区发展
NVIDIA 和 Google Cloud 正在扩展其联合开发者社区,旨在为超过 10 万名构建者提供人工智能工具和学习资源。该计划侧重于在 Google Cloud 中利用 NVIDIA 的人工智能平台,为 JAX 和推理优化提供新的学习路径。开发者现在可以在 Google Cloud 基础设施上利用 Google DeepMind 的 Gemma 和 NVIDIA 的 Nemotron 等模型,包括由 NVIDIA Blackwe…