实体
CDNA4
CDNA4
PulseAugur coverage of CDNA4 — every cluster mentioning CDNA4 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
UltraQuant实现4位键值缓存，提升AI代理吞吐量
研究人员开发了UltraQuant，一种新颖的4位键值（KV）缓存方法，旨在提高上下文密集型AI代理的性能。该技术通过采用压缩策略来解决代理工作负载中长上下文带来的显著内存需求。UltraQuant在服务吞吐量方面展示了显著的改进，并降低了延迟，尤其是在KV缓存成为瓶颈的场景中。
-
AMD 发布 MI350P PCIe AI 卡，声称速度比英伟达 H200 快 40%
AMD 推出了 Instinct MI350P，这是一款采用 144GB HBM3E 内存的新型 PCIe AI 加速卡。该卡专为风冷服务器设计，可直接升级，并声称在 FP16 和 FP8 计算方面比英伟达的 H200 NVL 具有显著的性能优势。MI350P 基于 AMD 的 CDNA4 架构构建，支持低精度格式以加速大型语言模型，并定位于推理和 RAG 工作负载。