Q4
PulseAugur coverage of Q4 — every cluster mentioning Q4 across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
Qwen3.8-27B 模型在 Strix Halo 硬件上实现 21.23 tok/s
一位用户分享了 Qwen3.8-27B 模型在 Strix Halo 硬件上使用 Q4 量化运行的性能指标。基准测试显示，在 96 个请求中，中位数推理速度为每秒 21.23 个 token，最大序列长度 (n-max) 为 4。这些数据在一个多 token 预测 (MTP) 矩阵中呈现。
-
用户为本地硬件优化dsv4-flash-0731模型
Reddit的r/LocalLLaMA子版块的一名用户详细介绍了他们在128GB RAM和约60GB VRAM的系统上运行dsv4-flash-0731模型的4位量化版本的实验。尽管由于硬件限制和模型大小超出可用RAM导致初始的token生成和提示处理速度缓慢，该用户实施了几项优化。这些优化包括修补llama.cpp以更有效地管理内存，将模型专家固定到主机RAM，以及采用一种新颖的方法，专门使用较低量化精度的模型进行提示处理以提高速度。
-
Llama 3.2:1b 量化级别显示可预测的内存扩展但响应质量相似
对 Llama 3.2:1b 模型量化级别的比较显示，内存使用量随比特宽度可预测地扩展，Q4、Q8 和 FP16 变体分别消耗约 0.94 GB、1.24 GB 和 2.57 GB。然而，响应质量并未随着精度的提高而显著提高；FP16 完整模型生成的用于创建幻灯片的 AI 工具列表与 Q4 版本一样充斥着不相关的建议。这表明，虽然量化是管理内存的可靠方法，但它对要求不高的任务的答案质量影响可能很小。
-
Qwen 3.8 27B 在复杂 SVG 任务上表现优于 GPT 5.6 Sol
Reddit 的 r/LocalLLaMA 版块的一位用户分享了他们的经验，即 Qwen 3.8 27B 模型，即使在 4 位量化下运行，在复杂的动画 SVG 生成任务上也胜过了 GPT 5.6 Sol high。该用户提出了三个涉及复杂动画和空间推理的不同提示，并指出 Qwen 在处理要求严苛的 SVG 动画挑战方面，与在正确性和简化方面遇到困难的 Sol 相比，产生了明显更好的结果，错误也更少。尽管承认 Sol 在深度知识等其他领…
-
中信证券：2027年前锂碳酸盐供应紧张
中信证券预测，到2026年下半年，碳酸锂供应将出现日益增长的缺口，可能在第四季度达到顶峰。该机构预计，尽管到2027年供应量将有所增加，但仍将无法满足需求，预计缺口为0.5%至3.4%。这一预测受到包括储能、电动汽车和钠离子电池在内的关键领域的影响。
-
Qwen3.5-9B 模型“思考” token 膨胀输出，拖慢本地 LLM 性能
一位用户在配备 64GB RAM 的 Apple M1 Max 上使用 Ollama 进行本地执行，测试了 Qwen3.5-9B 模型。尽管模型的提示建议其日语能力可以超越 GPT-4，但测试侧重于实际性能指标。Qwen3.5-9B 模型被量化为 Q4，并使用了约 6.6GB 的 VRAM，生成了 131 个字符的日语回复，但总共产生了 3936 个 token。绝大多数这些 token 是用户不可见的内部“思考” token，这严重…
-
新易盛预计1.6T和800G光模块出货量将强劲增长
光模块制造商新易盛（Sheng）预计下半年订单和出货量将继续保持高速增长。公司已扩大成都和泰国的产能，以应对强劲的市场需求。虽然第一季度曾面临供应链限制，但这些限制已有所缓解，预计第三季度和第四季度1.6T光模块的推出将进一步加速，800G模块（现已成为主要产品）将持续增长。
-
Qwen2.5-Coder-7B：量化影响失败模式，而不仅仅是得分
一位用户在多步代理任务上测试了 Qwen2.5-Coder-7B 模型的两个量化级别 Q8 和 Q4。尽管在简单和中等难度级别上通过率相同，甚至在困难级别上两者都只通过了 4 个任务中的 1 个，但它们的失败模式却大相径庭。Q8 版本通过执行一个禁止的工具调用而表现出鲁莽，而 Q4 版本则陷入循环，无法继续。这种区别突显了量化如何改变模型的失败特征，影响调试和提示策略。
-
埃隆·马斯克承认特斯拉HW3硬件过时，FSD推出延迟
埃隆·马斯克承认，特斯拉目前的硬件3.0（HW3）不足以支持无监督的全自动驾驶（FSD），并且可能无法实现。他暗示无监督FSD可能在第四季度发布，但 cautioned 这是一个猜测，标志着与之前自信预测的重大转变。这一承认实际上使HW3无法实现承诺的功能，让数百万购买了FSD的特斯拉车主感到失望，他们是基于早先的保证购买的。