实体
INTS2
INTS2
PulseAugur coverage of INTS2 — every cluster mentioning INTS2 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
UniCompress 框架创建单一紧凑型视觉语言模型，用于边缘智能
研究人员开发了 UniCompress，这是一个旨在从多个专家模型为边缘智能应用创建单一、紧凑型视觉语言模型 (VLM) 的框架。该方法显著降低了存储需求，将 Qwen3-VL-4B 模型从 8.9 GB 压缩到 2.1 GB，同时在各种具身任务中保持高性能。UniCompress 利用教师指导的量化恢复来实现激进的压缩，而不会牺牲多技能能力，使其适用于资源受限的设备。
-
研究论文质疑后训练量化对文本嵌入器的有效性
一篇新发表在arXiv上的研究论文，探讨了后训练量化（PTQ）技术在文本嵌入器上的有效性。研究发现，PTQ的常用启发式方法，例如保护嵌入表和根据模块敏感度分配比特，并不能可靠地迁移到检索嵌入器上。该研究在各种比特宽度和组大小下对模型进行量化，揭示了在较低比特宽度下，模块敏感度变得依赖于嵌入器家族，并且一个简单的重建代理在选择需要保护的张量方面不太可靠。
-
嵌入表精度是减小LLM规模的关键
一项近期实验探索了量化对Transformer模型的影响，发现嵌入表占模型参数的很大一部分（72%）。研究发现，独立量化嵌入表，特别是使用逐行缩放，可以在性能损失极小的情况下大幅减少字节数。这种方法可以将模型尺寸减小6.2倍，同时通过将释放的字节重新分配给计数表和缓存来维持甚至提高系统级性能。