实体
IQ2_XS
IQ2_XS
PulseAugur coverage of IQ2_XS — every cluster mentioning IQ2_XS across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
llama.cpp 为 Adreno GPU 上的 IQ2 量化添加 OpenCL 支持
llama.cpp 项目发布了 b11986 版本，为 IQ2 量化格式引入了初始的 OpenCL 支持。此更新包括针对 Adreno GPU 的优化和特定实现，目标是 IQ2_S、IQ2_XS 和 IQ2_XXS 变体。由 Hongqiang Wang 联合撰写的贡献侧重于 OpenCL 框架内的各种矩阵乘法和向量运算。
-
DeepSeek-V4-Flash IQ2_XS 在单块 RTX 3090 上运行，用户印象深刻
Reddit r/LocalLLaMA 版块的一位用户分享了在单块 RTX 3090 显卡上运行 DeepSeek-V4-Flash 模型（特别是 IQ2_XS 量化版本）的经验。尽管量化程度很高，但用户对该模型为 Döner Bench 测试生成完整且功能性输出的能力印象深刻，并指出虽然一些精细细节有所丢失，但整体场景和概念得以保留。该帖子包含了所用硬件、提示词以及通过 llama.cpp 运行模型的具体命令行参数的详细信息。