Unsloth 发布了更新,支持使用 Dynamic GGUFs 在本地运行 Moonshot AI 的 Kimi K3 和 DeepSeek-V4 Flash 模型。此优化提供了更快的推理速度,DSpark 支持为 DeepSeek V4 Flash 提供了 2 倍的速度提升。更新还包括针对各种系统配置的更高效下载,并通过确认 Unsloth 不使用某些 npm 包的受损版本来解决安全问题。 AI
影响 增强了大型语言模型的本地推理能力,使先进的人工智能在消费级硬件上更易于访问。
排序理由 这是一个现有工具的软件发布,用于优化现有模型,而不是来自前沿实验室的新模型发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →