实体
64Gb RAM
64Gb RAM
PulseAugur coverage of 64Gb RAM — every cluster mentioning 64Gb RAM across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
消费级GPU在122B模型上实现高LLM速度，运行速度达37 t/s
Reddit的r/LocalLLaMA子版块上一位用户分享了在消费级硬件上运行大型语言模型的令人印象深刻的基准测试。他们使用Nvidia RTX 4090和RTX 5060 Ti，并将部分层卸载到64GB系统内存，在350亿参数模型（35b a3b）上实现了每秒206个token。更值得注意的是，在类似条件下，一个1220亿参数模型（barium-122）的运行速度达到了每秒37个token，超出了用户的乐观预期。
-
华硕 ROG Flow Z13 游戏本（64GB RAM）降价 900 美元
Best Buy 正在大幅折扣销售华硕 ROG Flow Z13，这是一款拥有 64GB RAM 的二合一游戏本，价格降低了 900 美元，售价为 2,099 美元。该型号配备 AMD Ryzen AI Max+ 395 处理器，集成 Radeon 8060S 显卡，以及一块 13.4 英寸的触屏显示器。该笔记本电脑因其既适合游戏又适合在本地运行较小的 AI 模型而受到关注，并配备了先进的散热解决方案来管理高强度任务中的热量。
-
用户询问在 64GB 内存、24GB 显存上运行 Qwen 122B 的可能性
r/LocalLLaMA subreddit 上的一位用户正在咨询使用特定硬件配置运行 Qwen 122B 大型语言模型的可行性。考虑到他们拥有 64GB 内存和 24GB 显存，他们正在寻求关于实现这一目标的必要设置的指导。