实体
lmstudio-community
lmstudio-community
PulseAugur coverage of lmstudio-community — every cluster mentioning lmstudio-community across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
开发者推出ModelFit，精确测量LLM VRAM需求
一位开发者创建了一个名为ModelFit的网站，用于精确确定运行大型语言模型所需的VRAM。该网站通过直接测量Hugging Face上模型量化文件的实际大小，而非依赖可能不准确的公式，来解决其他资源中存在的差异。ModelFit为各种GPU配置和模型量化提供了详细的VRAM估算，旨在为“特定模型能否运行”这一问题提供明确的答案。
-
Qwen 3.8 27B 模型现已支持本地使用，并优化了 KV 缓存
阿里巴巴集团发布的 Qwen 3.8 27B 模型现已可供本地运行，并详细列出了针对不同硬件配置的特定 GGUF 文件大小。其关键特性是混合注意力机制，其中 64 层中只有 16 层使用 KV 缓存，显著降低了长上下文的内存需求。用户必须正确实现模型的聊天模板并加载单独的 mmproj 文件以获得视觉能力，以避免性能问题并确保正常运行。