PulseAugur
中
实时 19:54:15
实体 RTX 4060 Laptop

RTX 4060 Laptop

PulseAugur coverage of RTX 4060 Laptop — every cluster mentioning RTX 4060 Laptop across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_242330 ·

    FreeToken 引擎可在个人 PC 上运行大型 MoE 模型

    FreeToken 是一个开源引擎,旨在通过将整个 PC 作为异构推理系统来在个人硬件上运行大型混合专家(MoE)模型。它通过将完整的专家池存储在 CPU 主机 RAM 中,同时将非专家权重和共享专家缓存保留在 GPU 中来管理 MoE 模型。该系统动态测量主机内存和 PCIe 带宽,以优化 CPU 和 GPU 之间的专家执行,并采用双缓冲来隐藏预填充期间的传输延迟。此外,FreeToken 还为代理工作负载提供语义感知缓存,允许它在…

  2. TOOL · CL_74011 ·

    笔记本 GPU 以惊人的推测解码提升运行 Qwen3.6 模型

    一位用户详细介绍了他们在配备 8GB RTX 4060 GPU 的笔记本电脑上运行 Qwen3.6-35B-A3B 模型的经验。他们发现禁用内存映射 (`--no-mmap`)、确保足够的 VRAM 空间以及关闭 CPU 密集型应用程序可以显著提高性能。令人惊讶的是,推测解码提供了 26% 的速度提升,这与其他基准测试结果相反,用户将其归因于该模型具有 CPU 卸载专家功能的混合架构。