qwen3.5:0.8b
PulseAugur coverage of qwen3.5:0.8b — every cluster mentioning qwen3.5:0.8b across labs, papers, and developer communities, ranked by signal.
- used by Math-500 90%
- used by GPT -6 Astra 90%
- used by Rikiya Takehi 90%
- developed by Omar Khattab 90%
- used by Gemma 3 270M 90%
- used by Sparks of Weight-Space Programming 90%
- used by Jayden Teoh 70%
- used by Omar Khattab 70%
- developed by IFEval 70%
- used by IFEval 70%
- used by Weight-Space Programming 70%
- employed by Rikiya Takehi 70%
- 2026-11-02 research_milestone A new method demonstrated AI model GPT-6 Astra directly editing Qwen3.5-0.8B weights to improve math capabilities. 来源
- 2026-06-27 research_milestone Spectral Labs developed a new quantization method, SpectralQuant, which significantly improves the performance of the Qwen3.5-0.8B model. 来源
15 天有情绪数据
-
微小的权重编辑显著提升了 Qwen3.5-0.8B 模型性能
研究人员开发了一种方法来修复 Qwen3.5-0.8B 模型的问题,特别是其容易陷入重复性思维循环的倾向。通过对 131,072 个权重进行微小编辑,占模型总权重的 0.016%,研究人员显著减少了生成的 token 数量,并提高了在 MATH-500 基准测试上的准确性。该技术解决的是容量问题而非知识差距,正如其对 Gemma 3 270M 模型影响有限所证明的那样。研究还强调了在服务器端正确配置采样参数以确保准确基准测试的重要性。
-
新的System 1模型使用冻结的LLM来处理医学考试题目
研究人员开发了一种新颖的系统1决策模型,用于医学多项选择题,并利用了冻结的语言模型。该方法仅在Qwen3.5-0.8B和Granite-4.2-3B等现有模型之上训练两个投影头和一个温度参数。虽然不追求最先进的性能,但该模型在使用Qwen3-8B的MedMCQA基准测试中达到了46.0%的准确率,显著优于随机猜测。
-
SkimPrefill 加速 VLM 处理长输入的预填充
研究人员开发了 SkimPrefill,一种新颖的方法,用于加速处理长交错图文输入的视觉语言模型(VLM)的预填充过程。该技术利用一个较小的混合模型,以较低的分辨率高效地扫描整个输入,并用单个注意力头识别图像和段落等关键单元。通过优先处理这些关键元素,SkimPrefill 显著减少了 Qwen3.5-9B、Gemma-4-12B 和 Qwen3-VL-32B 等目标模型的预填充时间,速度提升高达 11.6 倍,同时在 MMLongB…
-
新的LLM引导方法使用注意力残差进行深度感知控制
研究人员开发了一种无需重新训练即可引导大型语言模型行为的新方法。这种名为“通过注意力残差进行深度感知激活引导”的技术将个性向量分布在模型的多个层中,与单层注入相比,可以实现更强的内部对齐和行为转变。研究发现,效果与层有关,算术和动态变化具有不同的贡献,并且引导向量的强度会影响模型输出的稳定性。此外,研究强调了传统关键词规则指标在评估LLM行为方面存在的问题,并提出LLM判断的验证更可靠。
-
MIT 的 GPT-6 Astra 通过最小的权重编辑显著提升 Qwen3.5 性能 · 跟踪 2 个来源
麻省理工学院的研究人员开发了一个名为 GPT-6 Astra 的 AI 模型,该模型可以显著提高其他 AI 模型的性能。通过修改 Qwen3.5 权重的极小一部分(0.016%),GPT-6 Astra 将其在 MATH-500 基准测试中的得分从 7.9% 提高到 48.1%。虽然这表明了显著的提升,但研究人员警告说,这还不是通用 AI 工程能力的决定性证据。
-
AI 直接编辑 LLM 权重,大幅提升 Qwen 分数
研究人员开发了一种名为“权重空间编程”的方法,无需传统训练即可编辑大型语言模型。使用此技术,一个名为 Astra 的 AI 成功修改了 Qwen3.5-0.8B,通过修复与重复输出相关的错误,将其 MATH-500 分数从 7.9% 提高到 48.1%。相比之下,在类似条件下,Gemma 3 270M 的分数仅从 6.8% 提高到 7.0%。这项进展允许通过直接操作权重来调试和优化模型,尽管它不会赋予新的知识或能力。
-
MIT使用GPT-6 Astra直接编辑AI模型权重,提升性能
麻省理工学院(MIT)的研究人员展示了一种新颖的AI模型维护方法,他们使用OpenAI的GPT-6 Astra直接编辑较小模型的内部权重。该方法通过解决重复推理循环而非添加新知识,成功提高了Qwen3.5-0.8B在MATH-500基准测试上的性能。虽然实验显示极少的参数改动带来了显著的分数提升,但研究指出,更简单的方法也能以更少的权重修改达到类似结果,并且这种直接编辑技术与传统微调相比的可扩展性和成本效益仍有待证明。
-
明文输出格式提高小型AI解析器准确性,减少静默错误
研究人员发现,小型语言模型的输出格式对其在语义解析任务中的准确性有显著影响。通过将目标信息编码为明文而非符号表达式,Qwen3.5-0.8B和LFM2.5-350M等模型在生成更少token的情况下实现了可比的准确性,并大幅减少了静默错误(模型生成语法正确但语义错误的输出)。这种方法还提高了模型拒绝菜单外输入的能��,尽管这会以拒绝一些有效订单为代价。
-
Qwen3.5-0.8B数学分数通过参数修复跃升40%
对Qwen在MATH-500基准测试中表现的最新分析显示,对Qwen3.5-0.8B的0.016%参数进行的小幅调整显著将其得分从7.9%提升至48.1%。这一改进归因于修复了模型内的重复性思维循环,而不是对其数学知识进行广泛增强。
-
新的越南语释义模型 VWEN 性能超越现有基准
研究人员开发了 VWEN,这是一个专门为越南语释义任务设计的小型语言模型。该模型拥有 0.8B 参数,从 Qwen3.5-0.8B 微调而来,并在约 7,000 个样本的精选数据集上进行了训练。在保持含义的同时生成所需改变程度的释义方面,VWEN 表现出卓越的性能,在匹配计算场景下优于 ViSP 模型。
-
Tether AI Research 发布 BotPsy-0.8B 设备端智能体模型
Tether AI Research 发布了 BotPsy-0.8B,这是一款开源的、用于设备端的、支持函数调用的智能体模型。BotPsy-0.8B 基于 Qwen3.5-0.8B 构建,在工具使用和智能体基准测试中表现出显著的改进,性能超越了参数量高达 1.2B 的模型,甚至在大多数任务上超越了更大的 Qwen3.5-2B。该模型还展现了增强的指令遵循和通用知识能力,并且显著减少了不安全响应和重复推理循环,使其能够高效地部署在设备端。
-
Tether AI Research 发布 BotPsy:设备端个人助理模型
Tether AI Research 发布了 BotPsy,这是一款新推出的、参数量为 0.8 亿的语言模型,专为设备端个人助理和智能体工作流而设计。BotPsy 基于 Qwen3.5-0.8B 构建,在其所属规模的模型中,展示了在工具使用和智能体能力方面的最先进性能,在多项基准测试中超越了参数量高达 1.2 亿的模型。该模型优先考虑隐私和效率,使其适用于不需要前沿智能且可在本地处理的任务。
-
开发者发布基于 CPU 的西班牙语校对工具,该工具由 Qwen3.5-0.8B 微调而来
一位开发者创建了一个西班牙语校对工具,该工具可以在 CPU 上本地运行,速度达到每句 138 毫秒。该工具使用 MIT 和 C++ 构建,是 Qwen3.5-0.8B 模型的微调版本,兼容 Windows 和 Linux 上的任何应用程序。开发者在 GPU 租用上花费了约 2.50 美元用于训练,耗时 22 分钟。微调后的模型名为 revisa-0.8b,在一个自定义基准测试中取得了 84.5 的平均 F0.5 分数,优于几个较大的未…
-
对 Qwen3.5-0.8B 的权重编辑在复制尝试中显示边际收益
对 Qwen3.5-0.8B 模型进行权重编辑的复制尝试表明,MATH-500 和 GSM8K 分数的报告改进可能受到评估方法的影响。作者发现,在使用有限的 token 预算和严格的评分标准时,未编辑模型在 GSM8K 上的性能明显低于报告值。虽然权重编辑在 GSM8K 的完成度和正确性方面显示出一些改进,但在多次比较校正后,统计学上的显著性是边际的,这表明需要进一步验证。
-
Qwen3.5 模型神经元显示出意料之外的结构化排序
研究人员在 Qwen3.5-0.8B 模型的神经元中发现了一种不寻常的排序模式,其中更活跃的神经元在每层中始终位于较低的索引处。这种现象在原始权重和神经元激活中都观察到,表明这是模型构建过程中的结构指纹,而不是标准训练过程的结果。这种排序对模型压缩和可解释性有重要影响,因为移除或随机化神经元的前半部分会严重降低性能。
-
新方法可从LoRA微调模型中恢复训练数据域
研究人员开发了一种方法,仅通过分析模型伪影来识别LoRA微调语言模型中使用的训练数据域。使用Qwen3.5-0.8B模型和跨五个域的36个LoRA微调模型,他们发现一个分类器可以准确地从模型权重、内部激活或生成的文本中预测训练数据域。值得注意的是,从灰盒激活(61%)和黑盒输出(64%)中恢复的域准确率高于随机猜测,仅凭生成的文本即可达到64%的准确率。该技术在不同的LoRA秩和数据子样本中均表现稳定,表明其在理解微调模型来源方面具有巨大潜力。
-
AI模型Astra自主修复其他AI模型,提升性能
一个名为Astra的神经网络已经展示了自主修复其他AI模型问题的能力。在一个实例中,Astra修改了模拟汽车控制神经网络权重的3.5%,在测试运行中实现了100%的成功率。它还通过编辑少量权重改进了Qwen3.5 0.8B语言模型,解决了推理循环问题,并将其在MATH-500基准测试中的得分从7.9%显著提高到48.1%。
-
权重空间编程:直接在浏览器中编辑 LLM 权重
一种名为权重空间编程的新技术允许用户直接在网页浏览器中编辑语言模型的数值权重,绕过了传统的训练方法。这种方法由 webWeightSpace 项目演示,允许用户通过更改特定数字来修改模型行为,例如,通过编辑 Qwen3.5-0.8B 的一小部分权重,一个 AI 代理修复了其推理循环。该教程提供实践经验,让个人能够注入概念、融合模型,并仅使用笔记本电脑 GPU 和网页浏览器观察权重变化对模型性能的影响。
-
MIT 研究人员使 AI 直接修复模型权重,提升性能
麻省理工学院 CSAIL 的研究人员推出了一种名为 Sparks of Weight-Space Programming 的新颖技术,该技术允许 AI 模型 GPT-6 Astra 直接读取和修改神经网络的权重,而无需进行传统再训练。在实验中,Astra 通过调整仅占 0.016% 的权重,成功提高了 Qwen3.5-0.8B 模型的性能,在数学和指令遵循基准测试中取得了显著的进步。虽然这种方法似乎修复了现有模型的局限性,而不是增加新…
-
AI 'Astra' 直接重写其他模型权重,提升 Qwen 性能
研究人员开发了一个名为 Astra 的新 AI 系统,该系统可以直接检查和修改其他 AI 模型的内部权重,绕过了传统的基于梯度的训练。在一项实验中,Astra 通过改变 Qwen3.5-0.8B 模型仅 0.016% 的权重,纠正了其陷入重复推理循环的倾向,显著提高了其在数学基准测试上的性能。这项被称为权重空间编程(Weight-Space Programming)的突破,使 AI 能够充当其他 AI 的“编辑器”,从而能够直接操纵模…