Aws Inferentia
PulseAugur coverage of Aws Inferentia — every cluster mentioning Aws Inferentia across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Anthropic 组建内部 AI 芯片团队以优化 Claude 模型 · 跟踪 8 个来源
Anthropic 正在组建一个内部团队来设计定制 AI 芯片,旨在提高其 Claude 模型的速度和效率。这一举措是由服务数十亿每日 token 的巨大成本以及对针对特定工作负载优化的硬件的需求所驱动的。在自主构建芯片的同时,Anthropic 将继续采用多芯片策略,与 AWS、Google、NVIDIA 和 AMD 等合作伙伴合作。
-
新的AI代理为AWS AI加速器自动化核生成
研究人员开发了NKI-Agent,一个旨在自动化生成用于AWS Trainium和Inferentia等AI加速器的核的新系统。该系统结合了领域特定微调和编译、验证及修复代码的代理循环。NKI-Agent在真实的Trn1硬件上进行了评估,使用Claude Opus 4.8在NKIBench基准测试中达到了77.3%的通过率,证明了代理工具使用在该复杂领域中的关键作用。
-
亚马逊着眼于直接销售AI芯片,挑战英伟达市场主导地位
据报道,亚马逊正就将其定制设计的AI芯片(特别是Trainium和Inferentia)出售给外部公司用于其数据中心进行初步讨论。此举由AWS AI主管Peter DeSantis牵头,并由CEO Andy Jassy暗示,可能使亚马逊成为AI硬件市场中英伟达的直接竞争对手。尽管潜在市场估计每年达500亿美元,但AWS在扩大生产规模以及可能优先考虑外部销售而非自身云服务方面面临挑战。
-
AWS Neuron AI 代理为 Trainium 芯片自动执行内核调优
AWS 推出了 Neuron Agentic Development,这是一套新的 AI 代理,旨在自动优化其 Trainium 和 Inferentia 芯片的内核调优。此举旨在简化开发人员的流程,无需手动调整内核。该系统旨在加速 AWS 定制 AI 硬件上的机器学习工作负载优化。
-
AWS Neuron Agentic Development 简化 AI 内核优化
AWS 推出了 Neuron Agentic Development,这是一套 AI 代理,旨在简化和加速在其 Trainium 和 Inferentia 芯片上优化机器学习模型。这项新功能旨在使 ML 工程师无需深入的架构专业知识即可编写、调试和分析硬件特定内核。通过与 VS Code 和 Cursor 等 IDE 集成,这些代理可以自动执行内核编写、错误解决和性能分析等复杂任务,从而显著缩短从模型开发到硬件优化实现的时间。
-
亚马逊承诺投资2000亿美元用于AI基础设施,转向供应驱动的数据中心建设
亚马逊计划投资约2000亿美元用于AI基础设施,包括数据中心和定制芯片,这反映了其在预期企业需求出现之前就建立产能的战略性转变。此举旨在使亚马逊云科技(AWS)在即将到来的AI工作负载浪潮中占据有利地位,这与他们早期的云扩张战略有相似之处。虽然存在一些需求信号,例如来自Anthropic等合作伙伴的承诺,但更广泛的企业AI采用仍处于早期阶段,这引发了对未来利用率的疑问。