一位开发者对两个语言模型 Qwen 3（1.5B 和 4B 参数）进行了微调和量化，使其能够直接在智能手机和 Windows PC 上运行。较小的 2.5GB 模型专为中端设备设计，而 4B 模型至少需要 12GB RAM。该开发者还正在为较小的模型创建一个双语 LoRa，该 LoRa 从一个较大的 32B 模型蒸馏而来，以增强其工具使用能力。Android 的 APK 已发布，Windows 可执行文件预计很快推出。 AI
影响 实现了在消费设备上本地、离线运行 AI 模型，减少了对云基础设施的依赖。
排序理由 开发者主导发布的用于本地使用的微调模型，而非前沿实验室发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
