实体
Mac Pro
Mac Pro
PulseAugur coverage of Mac Pro — every cluster mentioning Mac Pro across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
关系
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
旧款 Mac Pro 通过新驱动程序重新用于本地 LLM 任务
一台旧款 Mac Pro,最初售价近 10,000 英镑,由于新的 Linux 驱动程序能够启用其 D700 GPU,现在被重新用于本地 LLM 工作。该机器配备 64GB RAM 和 24 核,现在可以通过 llama.cpp 运行模型,在规划等任务中达到可用的速度。值得注意的是,用户发现 Qwen 3.5 9B 在规划输出方面优于 Anthropic 的 Claude Sonnet 4.6。
-
HeadQ: 模型可见失真与分数空间校正用于KV缓存量化
研究人员正在开发几种新颖的方法来优化大型语言模型中的键值(KV)缓存,这是长上下文处理的主要瓶颈。这些方法包括训练模型内在生成可压缩表示(KV-CAT)、操纵潜在注意力空间以实现高效引导(Memory Inception)以及采用先进的量化技术,如int4和谱去噪(eOptShrinkQ、HeadQ)。此外,用于多模态模型的WindowQuant和用于分布式KV缓存管理的tierKV等新策略旨在减少延迟和内存使用,其中tierKV甚至…