Qwen 3.5 122B
PulseAugur coverage of Qwen 3.5 122B — every cluster mentioning Qwen 3.5 122B across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
关于MoE模型有效性与密集模型的争论爆发
混合专家(MoE)模型的有效性正受到质疑,一些人认为其激活参数与同等规模的密集模型无法相比。这种观点认为,如果一个大型MoE模型只利用了其部分参数,那么一个较小的密集模型可能提供更好的性能和速度。然而,讨论也强调,路由器的选择最相关专家的能力对于MoE模型充分发挥其潜力至关重要,这意味着比较不仅仅是激活参数与总参数的简单对比。
-
用户报告称 Qwen 3.6 27B 模型在代理任务中遇到困难
Reddit 的 r/LocalLLaMA 论坛上一位用户报告称,Qwen 3.6 27B 模型在执行代理任务时遇到了严重问题。尽管与前代模型相比,该模型在生成令人印象深刻的单轮提示和长内容方面表现出色,但在多轮代理工作中却持续失败。用户经历了持续的错误和不遵守指令的情况,模型大约每四轮就会犯下“愚蠢”的错误。这导致用户在代理工作流中回退到使用旧的 Qwen 3.5 122B 模型。
-
运行 Qwen 3.5 122B MoE 模型硬件查询
Reddit 的 r/LocalLLaMA 社区的一位用户正在咨询运行大型混合专家(MoE)模型(特别是 Qwen 3.5 122B)的硬件要求。用户正在询问关于使用 128GB DDR5 RAM 和 16GB VRAM 配置运行此类模型的实际性能结果或经验。
-
Mimo 2.5 在消费级 GPU 上处理大上下文任务表现出色
Mimo 2.5 大语言模型在大上下文窗口处理方面展现出惊人的速度和性能,尤其是在双 RTX Pro 6000 GPU 上。这归功于其高效的 5 比 1 本地/全局滑动窗口注意力机制,使其能够在不牺牲上下文理解能力的情况下保持速度。虽然 MiniMax M3 和 DeepSeek V4 等其他模型由于尚未针对消费级 Blackwell 硬件优化的自定义 GPU 内核而遇到困难,但 Mimo 2.5 和 Step 3.7 Flash 为…
-
LLM社区呼吁紧急发布80-160B参数模型
r/LocalLLaMA子版块的用户正在表达对80-1600亿参数范围内新的大型语言模型(LLM)的强烈需求。现有模型要么对于拥有高容量但速度较慢的统一内存系统(如Apple设备或AMD Ryzen AI 395)的用户来说太小,要么对于VRAM有限的用户来说太大。社区要求能够有效利用80-128GB RAM或64GB VRAM的系统运行的模型,因为现有选项要么过时,要么不适合他们的硬件配置。
-
用户寻求防止 llama.cpp 交换 KV 缓存
Reddit r/LocalLLaMA 版块的一位用户正在寻求有关如何防止 llama.cpp 软件将其 KV 缓存卸载到交换内存的建议。尽管使用了特定标志,但用户在 RAM 使用量接近 96GB 时仍会发生卸载,即使仍有部分容量可用。他们正在寻找更激进的方法来确保仅在 RAM 几乎耗尽时才发生卸载。
-
用户因成本和性能问题退回Asus Spark AI硬件
一位用户退回了他们的Asus Spark AI硬件,原因是成本高昂且性能令人失望,尤其是在运行大型模型时。他们认为有限的内存带宽是关键问题,即使使用多个单元也阻碍了其有效运行模型的能力。用户建议通过增加内存控制器或推出更实惠的32GB版本来更好地证明其价格的合理性。
-
Qwen 3.5 122B 在检测 AI 生成的手部错误方面领先本地 VLM
一位用户测试了四种本地视觉语言模型 (VLM),以确定它们在检测 AI 图像中生成不佳的手部方面的有效性。Qwen 3.5 122B 表现最佳,具有 100% 的精确率和不错的召回率,尽管它偶尔会错过细微的解剖学错误。Gemma 4 26B 和 Qwen3-VL 被发现无效,Gemma 拒绝了太多图像,而 Qwen3-VL 则通过了大多数图像。
-
Windows vs. Linux:llama.cpp MoE 模型速度无差异
一位用户测试了 llama.cpp 在 Windows 11 和 Linux 上的性能,发现在运行中大型混合专家(MoE)模型时,两者之间没有显著的速度差异。测试涉及特定的硬件配置和详细的启动参数,结果显示在两个操作系统上提示处理(PP)和令牌生成(TG)速度相当。用户还指出,Windows Subsystem for Linux (WSL) 的性能慢于原生 Linux 或 Windows。
-
大型语言模型在不同角色下拥有共享的内部“偏好向量”
研究人员在大型语言模型中发现了一个共享的内部“偏好向量”,它会影响模型在不同角色下的行为。通过在 Gemma-3-27B 和 Qwen-3.5-122B 的激活数据上训练探针,他们发现该向量能够追踪甚至控制模型的任务和输出选择。即使模型采用诸如“乐于助人的助手”与“邪恶的”等对比鲜明的角色,这种表示似乎也基本保持一致。