AMD Radeon 780M
PulseAugur coverage of AMD Radeon 780M — every cluster mentioning AMD Radeon 780M across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
用户分享在有限硬件上运行 Qwen 3.8 的技巧
r/LocalLLaMA 子版块上的两位 Reddit 用户正在分享他们在消费级硬件上运行 Qwen 3.8 模型的心得和工具。一位用户详细介绍了如何通过使用特定的量化和内存管理技术，包括模型的 REAP 版本及其 N-gram 组件的惰性加载，在拥有 16GB VRAM 和 32GB RAM 的系统上运行 Qwen 3.8 的大型版本。另一位用户开发了一个名为 llama-manager 的工具，该工具允许在运行时动态重新配置模型参…
-
集成显卡上的 LLM 面临 VRAM 限制，量化是关键
在 Intel Arc 和 AMD Radeon 780M 等集成显卡 (iGPU) 上本地运行大型语言模型 (LLM) 主要受限于 VRAM，而 VRAM 与系统 RAM 共享。虽然这些 iGPU 提供张量处理能力，但其性能受到系统内存带宽的限制。量化等技术对于适配模型至关重要，其中 Q4_K_M 是一个很好的平衡点，可以有效地运行高达 14B 参数的模型。像 Llama 3 70B 这样的大型模型，由于其高 VRAM 要求，通常无…
-
DDR5 带宽成为 AMD APU 双 LLM 推理的瓶颈
一位开发者的实验表明，AMD APU 上的 DDR5 带宽严重限制了同时运行多个大型语言模型（LLM）的性能。尽管像 Qwen 3.6:35B 这样拥有 350 亿参数的模型，在每个 token 上似乎只使用了其参数的一小部分，但其实际推理速度受到共享内存带宽的限制，使其性能与较小模型相当。这一发现导致在尝试在同一硬件上并发运行两个模型时，由于性能下降而放弃了多模型代理架构。