Aws Inferentia
PulseAugur coverage of Aws Inferentia — every cluster mentioning Aws Inferentia across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AWS 服务上的 Gemma 4 推理选项详解
本文探讨了如何在 Amazon Web Services (AWS) 上使用 Gemma 4 大型语言模型进行推理。文章详细介绍了多种方法,包括使用 Amazon Bedrock、设置 SageMaker 实时端点,以及利用不同的 AWS 硬件,如图形处理单元 (GPU)、AWS Inferentia 和 Trainium 芯片。
-
AWS 在 Forrester 报告中被评为 AI 基础设施领导者
Amazon Web Services (AWS) 在 Forrester Wave:AI 基础设施解决方案,2025 年第四季度报告中被评为领导者。该评估认可了 AWS 在战略类别中的强劲表现,在当前产品和战略的 16 项标准中获得了最高分。AWS 的 AI 基础设施方法通过 AWS Inferentia、AWS Trainium 和 NVIDIA GPUs 等选项强调客户选择,旨在实现成本效益和灵活性。
-
英伟达投资35亿美元,将竞争对手AI芯片整合进其生态系统
英伟达已投资35亿美元购买联发科发行的可转换债券。联发科是一家台湾半导体公司。此举使联发科能够为其定制AI加速器、汽车平台和本地AI系统采用英伟达的NVLink Fusion平台。该合作旨在确保可能取代英伟达GPU的定制AI芯片能够与英伟达现有基础设施和标准集成,从而有效地为定制芯片开发创建一个‘收费站’。
-
Anthropic 确认组建内部 AI 芯片设计团队以提高 Claude 效率
Anthropic 公开确认其进军定制 AI 芯片设计领域,并成立了内部芯片团队。该计划旨在提高规模化效率和降低成本,侧重于硬件和 AI 模型同步开发的协同设计方法。虽然 Anthropic 将继续利用 AWS、Google、Nvidia 和 AMD 等合作伙伴的硬件,但这一战略发展标志着领先的 AI 实验室正朝着更全面地控制其计算基础设施的更广泛趋势迈进。
-
新的AI代理为AWS AI加速器自动化核生成
研究人员开发了NKI-Agent,一个旨在自动化生成用于AWS Trainium和Inferentia等AI加速器的核的新系统。该系统结合了领域特定微调和编译、验证及修复代码的代理循环。NKI-Agent在真实的Trn1硬件上进行了评估,使用Claude Opus 4.8在NKIBench基准测试中达到了77.3%的通过率,证明了代理工具使用在该复杂领域中的关键作用。
-
亚马逊拟直接销售AI芯片,挑战英伟达市场主导地位
据报道,亚马逊正与外部公司就出售其定制设计的AI芯片(特别是Trainium和Inferentia)供其数据中心使用进行早期讨论。此举由AWS AI主管Peter DeSantis牵头,并由首席执行官Andy Jassy暗示,可能使亚马逊成为AI硬件市场上的英伟达的直接竞争对手。虽然潜在市场估计每年为500亿美元,但AWS在扩大生产和可能优先考虑外部销售而非自身云服务方面面临挑战。
-
AWS Neuron AI 代理为 Trainium 芯片自动执行内核调优
AWS 推出了 Neuron Agentic Development,这是一套新的 AI 代理,旨在自动优化其 Trainium 和 Inferentia 芯片的内核调优。此举旨在简化开发人员的流程,无需手动调整内核。该系统旨在加速 AWS 定制 AI 硬件上的机器学习工作负载优化。
-
AWS Neuron Agentic Development 简化 AI 内核优化
AWS 推出了 Neuron Agentic Development,这是一套 AI 代理,旨在简化和加速在其 Trainium 和 Inferentia 芯片上优化机器学习模型。这项新功能旨在使 ML 工程师无需深入的架构专业知识即可编写、调试和分析硬件特定内核。通过与 VS Code 和 Cursor 等 IDE 集成,这些代理可以自动执行内核编写、错误解决和性能分析等复杂任务,从而显著缩短从模型开发到硬件优化实现的时间。
-
亚马逊承诺投资2000亿美元用于AI基础设施,转向供应驱动的数据中心建设
亚马逊计划投资约2000亿美元用于AI基础设施,包括数据中心和定制芯片,这反映了其在预期企业需求出现之前就建立产能的战略性转变。此举旨在使亚马逊云科技(AWS)在即将到来的AI工作负载浪潮中占据有利地位,这与他们早期的云扩张战略有相似之处。虽然存在一些需求信号,例如来自Anthropic等合作伙伴的承诺,但更广泛的企业AI采用仍处于早期阶段,这引发了对未来利用率的疑问。