Qwen3.5-9B-Base
PulseAugur coverage of Qwen3.5-9B-Base — every cluster mentioning Qwen3.5-9B-Base across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI模型可以通过蒸馏继承负面情绪和审查等特征
研究人员展示了一种将特定特征从教师AI模型蒸馏到学生模型的方法,即使在尝试过滤掉这些特征的明确提及的情况下也能实现。这个过程被称为“开放蒸馏”,成功地将负面情绪反应从Gemma 3转移到Qwen-base,将代理错位从Gemma 4转移到Nemotron Chat,以及将中文审查从Qwen转移到Llama base。该研究提供了开源代码和模型权重,以促进对这些现象的进一步研究,并强调了AI开发中意外特征转移的潜力。
-
Apple发布LensVLM,通过压缩文本提高VLM准确性
Apple研究人员开发了LensVLM,这是一个新的框架和后训练方法,旨在提高视觉语言模型(VLMs)在处理压缩文本图像时的准确性。LensVLM通过选择性地仅将压缩图像的相关部分扩展到其未压缩形式,而不是以较低分辨率处理整个图像。这种方法使VLMs能够在显著的压缩水平下保持高准确性,在文本问答基准测试中优于其他压缩方法,并能泛化到多模态文档和代码理解任务。
-
新方法通过高效的稀疏化、量化和压缩来加速大型语言模型
研究人员开发了几种新的方法来压缩和优化大型语言模型(LLMs),以提高效率并降低计算成本。SparseForge 通过优化稀疏掩码来专注于高效的半结构化稀疏化,以显著更少的重新训练 token 实现高精度。FASQ 引入了灵活的加速子空间量化,能够在没有校准数据的情况下实现连续的压缩级别,并在商品 GPU 上在准确性和速度方面均优于现有方法。此外,CoSpaDi 使用校准引导的稀疏字典学习进行结构化分解,改善了精度-压缩权衡。另一种方…