mixture of experts model
PulseAugur coverage of mixture of experts model — every cluster mentioning mixture of experts model across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的 KaliBench 基准测试用于测试 LLM 生成网络安全 CLI 命令的能力
研究人员推出 KaliBench，一个旨在评估大型语言模型（LLM）为网络安全工具生成精确命令行界面（CLI）命令能力的新基准测试。该基准测试包含 1,642 个工具的 8,504 个查询-命令对，重点关注准确的工具选择和参数构建。目前开源模型在此任务上表现不佳，精确命令准确率低于 42%。然而，使用 KaliBench 的可验证奖励进行微调显著提高了 8B 模型的性能。
-
Oxmiq Labs 提出用于 AI 推理容量的高带宽闪存
Oxmiq Labs 正在提出高带宽闪存 (HBF) 作为 AI 推理的新容量层，旨在以与高带宽内存 (HBM) 相当的成本提供显著更多的存储空间。他们在 Hot Chips 2026 上的演示概述了 HBF 硬件规格，该规格在相同价格下可提供 HBM 8 到 16 倍的容量。虽然 HBM 在带宽密集型任务中表现出色，但 Oxmiq 建议 HBF 可有效地部署在混合专家 (MoE) 模型中，特别是用于存储专家权重和卸载 KV 缓存，从…
-
16GB GPU 可在 100 tokens/秒的速度下运行 20GB MoE 模型
新的社区测试表明，仅拥有 16GB VRAM 的 GPU 即可运行 20GB 的混合专家（MoE）模型，速度约为每秒 100 个 token。这表明先进的 AI 模型对于拥有消费级硬件的用户来说正变得越来越容易获得。
-
运行 Qwen 3.5 122B MoE 模型硬件查询
Reddit 的 r/LocalLLaMA 社区的一位用户正在咨询运行大型混合专家（MoE）模型（特别是 Qwen 3.5 122B）的硬件要求。用户正在询问关于使用 128GB DDR5 RAM 和 16GB VRAM 配置运行此类模型的实际性能结果或经验。
-
时间序列模型在美国流感预测中的评估
一项新的研究论文评估了用于预测美国季节性流感的各种时间序列预测模型。研究发现，混合专家模型（一种结合了多个预训练预测器的模型）取得了最佳性能。基于 Transformer 的模型也显示出可靠性，预训练对长期预测尤其有益，特别是当与流感动态保持一致时。然而，在这一特定应用中，基于大型语言模型 (LLM) 的时间序列方法的表现不如数值预测器。