Qwen3.5 35B-A3B
PulseAugur coverage of Qwen3.5 35B-A3B — every cluster mentioning Qwen3.5 35B-A3B across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
Reddit用户提出“本地LLM生存工具包”以实现离线AI
Reddit论坛r/LocalLLaMA的一位用户提出了一个“本地LLM生存工具包”的概念。该工具包将是一个便携式USB驱动器,包含运行大型语言模型(LLM)离线运行所需的基本组件。提议的工具包包括适用于各种操作系统的CPU推理二进制文件、Qwen3.5 35B-A3B和Gemma 4 E4B等特定LLM模型、一个包含英文维基百科和免费授权书籍的压缩SQLite数据库,以及一个可以搜索该数据库的简单聊天界面。目标是在几乎任何PC或笔记…
-
NVIDIA 发布 Audex,一个统一的音频-文本大语言模型,保留文本智能
NVIDIA 推出了 Audex (Nemotron-Labs-Audex-30B-A3B),一个能够理解和生成音频及语音的统一音频-文本大语言模型。与许多文本性能有所下降的多模态模型不同,Audex 的设计旨在保持其 Nemotron-Cascade-2-30B-A3B 骨干模型的文本智能。该模型通过多阶段训练过程和纯文本强化学习来实现这一点,从而在文本基准测试中取得有竞争力的分数,并具备强大的音频能力,包括超越语音的通用音频生成。
-
llama.cpp 标志将 RTX 4070 上 Qwen 35B 模型速度提升 2.8 倍
一份技术指南演示了如何在 RTX 4070 GPU(12GB VRAM)上运行 Qwen3.5-35B-A3B 模型时实现 2.8 倍的速度提升。实现这一性能提升的关键在于使用 `llama.cpp` 框架并设置特定标志:`-ngl 99` 将所有模型层卸载到 GPU,而 `--cpu-moe` 则将专家混合(MoE)层保留在 CPU 上。这种策略对于 MoE 模型尤其有效,因为每个 token 仅激活一小部分专家,当 VRAM 有限…
-
新的调优方法提升了LLM编码代理的性能
研究人员开发了一种名为探测与精炼调优的新方法,以提高大型语言模型(LLM)编码代理的性能。该技术侧重于增强指导代理访问代码存储库相关部分的引导文件。通过使用合成的bug修复探测,调优过程会迭代地诊断和精炼这些引导文件,从而显著提高代理解决编码任务的能力。这种改进源于对相关文件更好的覆盖率,而不是代码更改本身的精度提高。
-
oMLX 在 Mac LLM 推理速度上显著优于 Ollama
对在 Mac 设备上本地运行 LLM 的 oMLX 和 Ollama 进行的性能比较显示出显著的速度差异。oMLX 利用 Apple Silicon 的 MLX 框架,与使用 GGUF 后端的 Ollama 相比,其 token 生成速度快了 35%,多轮对话延迟降低了 7 倍。虽然 oMLX 提供了 SSD KV Cache 和 Continuous Batching 等专业功能,但 Ollama 在跨平台兼容性和更广泛的模型生态系…
-
oMLX 通过 KV 缓存提升 Apple Silicon LLM 性能
oMLX 是一个面向 Apple Silicon 的开源 LLM 推理服务器,在处理大型模型和复杂工作流方面展现出显著的性能提升。社区基准测试和本地测试突显了 oMLX 相较于 Ollama 和 LM Studio 等替代方案的优势,尤其是在涉及编码代理和持久化 KV 缓存的场景中。该服务器利用 SSD 进行 KV 缓存的能力极大地缩短了首次令牌生成时间 (TTFT),使得 Claude Code 和 Qwen3-Coder-Next…
-
Self-Harness 使 LLM 代理能够改进其自身的操作工具集
研究人员开发了一种名为 Self-Harness 的新颖方法,使基于 LLM 的代理能够自主改进其自身的操作工具集。这个迭代过程包括识别模型特定的失败模式、生成有针对性的工具集修改以及通过回归测试验证这些更改。当应用于 Terminal-Bench-2.0 基准测试中的三个不同基础模型时,Self-Harness 显著提升了性能,展示了通往自优化 AI 代理的道路。
-
Qwen3.5-35B-A3B 路由器在自我反思时显示特定专家
一位研究人员记录了对 Qwen3.5-35B-A3B 模型的实验,重点关注当模型生成第一人称自我审视文本时,其混合专家(MoE)路由器的行为。研究结果表明,当模型进入这种特定的讨论模式时,第 14 层的一个特定专家 E114 会被持续招募,这使其区别于技术性或第三人称的输出。这项工作旨在探讨 MoE 路由器是否能揭示输出模式的内部关联,而不仅仅是输入特征,并强调这并不意味着模型具有意识。
-
MIRA框架改进LLM中期训练数据选择
研究人员开发了MIRA,一个用于大型语言模型开发中期训练阶段选择数据的新框架。该方法通过发现和应用特定来源的质量标准来应对异构数据源的挑战。MIRA使用前沿教师模型来识别评估标准,将其提炼为学生评分器,然后过滤数据以平衡可扩展性和语义准确性,在代码相关基准测试中表现优于其他选择方法。
-
研究发现大型语言模型尽管收到明确警告仍保留虚假信息
新研究表明,大型语言模型即使在被明确警告为不真实的情况下,也难以忽略虚假信息。研究表明,模型会将这些虚假信息整合到其知识库中,导致对捏造陈述的高度信任。这种被称为“否定忽略”的现象,对AI训练数据的可靠性以及大型语言模型产生幻觉的可能性具有重大影响。
-
新的代理框架通过主动证据搜寻提升大型语言模型临床推理能力
研究人员开发了ClinSeekAgent,这是一个旨在增强大型语言模型临床推理能力的新型框架,使其能够主动搜寻和综合多模态证据。与依赖预选数据的先前方法不同,ClinSeekAgent动态查询医学知识库、导航电子健康记录并利用成像工具来收集信息。这种主动证据搜寻过程显著提高了Claude Opus 4.6和MiniMax M2.5等模型在纯文本和多模态临床任务上的表现,ClinSeek-Bench基准的创建证明了这一点。
-
新的QCalEval基准测试对量子校准图上的视觉-语言模型进行评估
研究人员推出了QCalEval,这是一个新的基准测试,旨在评估视觉-语言模型(VLMs)在多大程度上能够理解量子计算校准图。该基准测试包含243个样本,涵盖了各种量子计算实验类型,并使用零样本和上下文学习方法进行评估。初步结果表明,虽然前沿的闭源模型表现良好,但许多开放权重模型在多图像上下文学习方面存在困难,并且仅通过监督微调并不能完全弥合这一差距。
-
AWS SageMaker AI 通过新的推理建议和 G7e 实例简化生成式 AI 部署
Amazon SageMaker AI 推出了新功能,以简化生成式 AI 模型的部署。该平台现在提供优化的推理建议,利用 NVIDIA AIPerf 缩短了开发人员数周的手动基准测试过程。此外,AWS 推出了由 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 驱动的 G7e 实例,提供了更高的内存和网络吞吐量,从而实现更快、更具成本效益的大型语言模型推理。
-
AI 代理通过新研究和模型获得先进的长期记忆能力
2026年6月发布的多篇研究论文探讨了 AI 代理长期记忆系统的进展。Qwen 发布了开源稀疏专家混合模型 Qwen3.6-35B-A3B,强调了其代理编码能力。几篇论文介绍了新的记忆架构和框架,包括用于上下文恢复的 RaMem、用于预测世界模型的 Nous、用于原子事实的 AtomMem,以及用于记忆驱动的自我演进的边际优势累积(MAA)。这些工作旨在改进 AI 代理在扩展交互和不断变化的环境中存储、检索和利用信息的方式,解决上下文…