实体
AMD 7900 XTX
AMD 7900 XTX
PulseAugur coverage of AMD 7900 XTX — every cluster mentioning AMD 7900 XTX across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
DiffusionGemma 26B 在四块 AMD 7900 XTX GPU 上以 100 TPS 运行
一位 Reddit 用户分享了他们在四块 AMD 7900 XTX GPU 上运行 DiffusionGemma 26B 的经验。他们实现了高达每秒 100 个 token 的生成速度，考虑到提示处理，总体吞吐量为每秒 45-60 个 token。该用户详细介绍了用于为该特定硬件配置 vLLM 环境的 Docker 命令，并指出准备图像消耗了大量的 DeepSeek-V4-Pro token。
-
Gemma 4 QAT 模型展示更快的速度、更少的显存、相同的质量
一位用户在 AMD 7900 XTX GPU 上对 Google 的 Gemma 4 模型进行了基准测试，比较了标准量化与感知量化训练 (QAT) 版本的性能。结果表明，QAT 版本在各种模型尺寸（包括 12B、26B 和 31B 参数）下，提供了显著的速度提升和更低的显存占用，同时没有牺牲输出质量。具体而言，与标准的 Q8_0 版本相比，12B QAT 模型展示了 45% 的更快生成速度和 83% 的更高吞吐量，同时保持了相同的质量。