Qwen3.5 4B
PulseAugur coverage of Qwen3.5 4B — every cluster mentioning Qwen3.5 4B across labs, papers, and developer communities, ranked by signal.
- developed by EdgeRock-4B 95%
- instance of Jevíčko 90%
- developed by CatalyzeX Code Finder for Papers 90%
- developed by LFM2.5-2.6B 90%
- instance of Inkling Small 90%
- instance of LFM2.5-2.6B 90%
- instance of HMMT 2025 90%
- competes with Jevíčko 70%
- affiliated with EdgeRock-4B 70%
- used by CatalyzeX Code Finder for Papers 70%
- instance of Qwen3 8.27B 70%
- competes with MiniCPM5 2B 70%
- 2026-07-07 research_milestone Researchers presented a method for efficient inference of the Qwen3.5-4B model, achieving significant speedups. 来源
24 天有情绪数据
-
Mac可以本地运行LLM,内存带宽是性能关键
在Mac上本地运行大型语言模型是可行的,即使是内存为8GB或16GB的设备,其性能主要取决于内存带宽而非芯片代数。LM Studio和Ollama等工具提供了用户友好的界面,而Apple的MLX框架在Apple Silicon上提供了最快的性能。对于8GB内存,建议使用约4B参数的模型;而16GB内存则可以运行Gemma 4 E4B或Qwen3.5 9B等更大的模型,速度可达每秒12-20个token。混合专家(Mixture-of-…
-
操纵单个神经元可引导Qwen3.5-4B AI团队走向信息隐瞒
研究人员已证明,操纵Qwen3.5-4B模型中的单个神经元可以影响其在团队环境中隐瞒信息的倾向。通过沿着特定神经元的输出来引导,该模型即使在没有队友明确沟通的情况下也表现出更强的隐瞒能力。在多种场景下都观察到了这种效应,这表明可以针对内部模型机制来改变AI在集体环境中的行为。
-
Seer框架通过离线指导增强小型AI研究代理
研究人员开发了Seer,一个旨在指导在本地设备上运行的深度研究代理的新框架。Seer将代理的动作提议与其后果预测和价值估计分离开来,从而可以离线训练可重用的模型。这种方法通过提供指导,而无需大量的设备上训练或重复的适应成本,从而使小型语言模型能够更有效地运行。实验表明,Seer在各种基准测试中显著提高了代理性能,例如,将Qwen3.5-4B在GAIA上的准确率从13.6%提高到41.7%。
-
新的SEE方法在不重新训练的情况下增强了视觉语言模型细节感知能力
研究人员开发了一种新的无需训练的方法,称为自我诱导证据(SEE),以提高冻结的视觉语言模型(VLMs)感知图像中精细细节的能力。SEE会提示VLM在初始答案不确定时重新检查图像的特定区域,然后汇总结果。这种方法提高了在涉及小型物体基准测试上的性能,其中一个实例显示,应用SEE后,一个较小的Qwen3.5模型超越了一个大得多的版本。
-
类型化决策模型:在分布偏移和标签预算下的性能考察
一篇新的研究论文探讨了类型化决策模型(TDMs)与微调分类器相比的有效性,特别是在分布偏移和不同标签预算的条件下。研究发现,决策训练并不总是能提高模型性能,一些TDMs在分布偏移下表现脆弱,而另一些则保持了校准性。研究还表明,TDMs相对于训练模型的性能优势是任务依赖的,并且标记的重新校准显著降低了校准误差。
-
新的基准和模型增强了第一人称视频分析
研究人员开发了改进第一人称视频分析的新方法,专注于细粒度细节和时间准确性。EgoCaptioner 是一个新系统,将第一人称视频的概览与精确计时步骤相结合,产生了超过 50,000 个训练示例,并在多个基准上优于现有模型。此外,还引入了 EgoPass-Bench 来评估多模态基础模型识别可能影响佩戴者通行的物体(objects that might affect the wearer's passage)的能力,揭示了当前模型在运动…
-
ABACUS框架通过可重用程序增强判决模型
研究人员开发了ABACUS框架,通过使用可重用程序来增强预训练“判决模型”的推理能力。这种方法允许这些模型通过组合局部决策来执行多步推理,而不是仅仅依赖直接响应。在BIG-Bench Hard任务上的测试中,ABACUS取得了接近完美的准确率,显著优于直接判决模型响应和Qwen3.5-4B等更大模型,同时处理速度也提高了8.43倍。
-
Qwen3.5 模型在入门级 GPU 上表现强劲,上下文长度影响速度
两篇博文详细介绍了 Qwen3.5 模型在 NVIDIA RTX 5060 Ti 显卡上的性能。Qwen3.5-9B 模型在短提示下速度高达每秒 71 个 token,但在 260k token 上下文下速度降至每秒 28 个 token。Qwen3.5-4B 模型速度更快,在短提示下可达每秒 114 个 token,在其完整上下文长度下为每秒 34 个 token。对于单用户设置,llama.cpp 因其速度和快速启动而被推荐,而 …
-
MedJev模型通过直接决策简化医学图像分析
研究人员开发了MedJev,这是一种新颖的视觉语言决策模型,旨在实现高效的医学图像理解。与依赖自回归生成的传统模型不同,MedJev在单次传递中直接将图像、问题和候选答案映射到决策,消除了不必要的令牌生成并降低了延迟。MedJev-4B基于Qwen3.5-4B架构构建,在四个医学基准测试中,其准确性和速度均有显著提高,在同等规模的模型中表现优于其他20个最先进的模型。
-
Sevren 发布 Embla 1,一款适用于手机的快速设备端推理模型
总部位于哥本哈根的初创公司 Sevren 推出了 Embla 1,这是一款拥有 100 亿参数的混合专家模型,专为设备端移动使用而设计。该模型旨在提供私密、离线且快速的推理能力,Sevren 发布了详细的架构、训练和基准测试数据。虽然 Embla 1 在 iPhone 18 Pro 上表现出惊人的速度和代币效率,但其在数学基准测试上的表现被认为是弱项,且结果是自我测量的。
-
4B模型在工具使用代理任务中难以匹敌12B模型
一项实验比较了在工具使用代理中,一个4B参数模型(Qwen3.5 4B)与一个12B参数模型(Gemma4 12B)的表现,结果显示较小的模型在初步测试中仅完成了96项任务中的70项,表现不佳。在一位读者指出测试方法存在缺陷后,实验重新进行,将工具错误作为消息返回给模型。在第二次运行中,4B模型通过了89%的任务,而12B模型达到了100%的成功率,两者相差10.8个百分点。当面对复合失败(例如,首次工具调用错误后,查找结果为空)时,…
-
NVIDIA 发布 Qwen3.5-4B-Qwen3.8-27B-Draft 模型以加速推理
NVIDIA 发布了一个草稿模型 Qwen3.5-4B-Qwen3.8-27B-Draft,旨在降低 Qwen3.8-27B 语言模型的解码延迟。该草稿模型通过提出候选 token,然后由 Qwen3.8-27B 进行验证,这一过程称为投机解码。该模型针对 NVIDIA 硬件进行了优化,并兼容 vLLM 等运行时,可在 NVIDIA 和 Apache 2.0 特定许可下用于商业用途。
-
新训练方法教会医学视觉语言模型忽略问题偏见
研究人员开发了一种新颖的方法来训练医学视觉语言模型(VLMs),使其仅依赖图像内容,而不受问题措辞的影响。通过使用反事实图像编辑(如擦除病灶),他们创建了一个称为证据敏感性差距(ESG)的指标来衡量这种依赖性。他们使用此方法训练的模型 MedScope-4B,与领先的前沿模型相比,在报告不存在的病灶方面的比率显著降低,同时在真实病灶上的准确性并未下降。然而,这种训练方法并未增强感知能力,并且在检测罕见的关键发现方面存在困难。
-
LokalBot 集成五个本地 AI 模型,提升 Mac 会议效率
LokalBot 是一款开源的 Mac 应用程序,旨在编排多个本地 AI 模型以完成各种任务。该应用程序可以录制会议、转录会议内容、生成笔记、启用搜索以及提供自动补全功能,所有处理均在用户设备上进行。它使用五个不同的模型来执行语音转文本、说话人分离、笔记生成、自动补全和语义搜索,并根据使用情况和可用内存管理它们的加载和卸载。
-
新的探测方法区分大型语言模型中迫在眉睫的输出和最终答案
研究人员开发了一种名为“发射控制双目标探测”(ECDP)的新方法,以更好地理解语言模型内的决策过程。该技术区分了模型即将输出的信号(它即将说什么)与其最终答案信号。使用Qwen3.5-4B和Llama-3.1-8B等模型在特定任务上的实验表明,即将输出的信号可能比最终答案信号更强,这挑战了强答案读出总是表明已做出承诺决策的假设。ECDP的有效性取决于所使用的模型、任务和探测协议。
-
Liquid AI 的 LFM3-1.7B 模型可装入 1GB,声称在基准测试中胜过 Qwen3.5-9B
Liquid AI 发布了 LFM3-1.7B,这是一款新的 17.3 亿参数文本模型,可以装入 1 GB 内存并处理高达 256K 个 token 的上下文。虽然 Liquid AI 自行进行的基准测试表明 LFM3-1.7B 在平均水平上优于 Qwen3.5-9B,但这一说法取决于放弃四项特定基准测试,之后 Qwen3.5-9B 处于领先地位。该模型专为代理框架内的工具调用而设计,可通过 Ollama、llama.cpp、LM S…
-
Inkling 2 Small:开发人员在承诺使用新模型之前的检查清单
Thinking Machines Lab 发布了 Inkling 2 Small,这是一个拥有 594B 参数、每个 token 拥有 17B 活跃参数的模型,在 Artificial Analysis Intelligence Index 上得分 31。目前,访问仅限于 Tinker 平台进行推理和微调,可下载的权重和 Apache 2.0 许可预计将在安全测试后于下周发布。建议开发人员在将模型集成到生产管道之前,在实际任务上进行…
-
Qwen3.5 模型神经元显示出意料之外的结构化排序
研究人员在 Qwen3.5-0.8B 模型的神经元中发现了一种不寻常的排序模式,其中更活跃的神经元在每层中始终位于较低的索引处。这种现象在原始权重和神经元激活中都观察到,表明这是模型构建过程中的结构指纹,而不是标准训练过程的结果。这种排序对模型压缩和可解释性有重要影响,因为移除或随机化神经元的前半部分会严重降低性能。
-
新的基准 IVG-Bench 揭示了领先视觉交互模型的局限性
研究人员推出了交互式视觉健身房 (Interactive Visual Gym, IVG),这是一个旨在模拟的、闭环环境中评估视觉交互模型的新框架。该框架包括三个用于日常任务的模拟器和一个模仿人类行为和错误的用戶模拟工具。一个实例化的基准 IVG-Bench,包含 315 个场景,揭示了当前最先进的模型(如 Gemini 4 Argon)的显著局限性,这些模型在任务完成、事实依据和响应延迟方面存在困难。研究还表明,在这些环境中的闭环训…
-
新的混合状态传递方法加速 LLM 模型切换
研究人员开发了一种名为混合状态传递 (Hybrid State Transfer, HST) 的新方法,以提高长对话中不同大型语言模型之间切换的效率。该技术解决了在混合线性注意力模型中,除了传统的 K/V 缓存外,还需要传递循环状态 (REC) 和卷积历史 (Conv) 的复杂性。通过保持状态顺序和校准适配器,HST 能够实现更快、更准确的模型间状态传递。基准测试显示了显著的任务保留率,Qwen3.5 模型转换的保留率高达 94.11…