Underdog(Conway Research的研究项目)发布了Saluki 27B,这是Qwen3.8-27B模型高度压缩的2位量化版本。这款新模型采用Apache 2.0许可证发布,文件大小从54 GB显著减小到7.89 GB,使其能够在标准的llama.cpp实现上运行。虽然Saluki 27B在工具调用方面表现出性能提升,保留率达到原始模型的120%,但在复杂推理和数学任务方面性能有所下降。 AI
影响 通过显著减小模型尺寸并保持工具调用等关键功能,实现了更强大的设备端智能体。
排序理由 发布量化模型并进行性能比较。[lever_c_demoted from research: ic=1 ai=1.0]
- Apache Software License 2.0
- BFCL v4
- Conway Research
- ISTA-DASLab
- llama.cpp
- PrismML
- Qwen3.8-27B
- Saluki 27B
- Underdog
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →