KoboldCpp 发布了 1.118 版本,对其模型加载和处理能力进行了更改。此次更新移除了行拆分选项,现在将默认为张量拆分。此外,软件中已移除 Rocwmma。 AI
影响 对一个开源 AI 推理工具的次要更新,主要影响使用其特定功能的开发者。
排序理由 这是一个特定工具的软件发布,而不是前沿模型发布或重大的行业事件。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
KoboldCpp 发布了 1.118 版本,对其模型加载和处理能力进行了更改。此次更新移除了行拆分选项,现在将默认为张量拆分。此外,软件中已移除 Rocwmma。 AI
影响 对一个开源 AI 推理工具的次要更新,主要影响使用其特定功能的开发者。
排序理由 这是一个特定工具的软件发布,而不是前沿模型发布或重大的行业事件。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
🚀 KoboldCpp v1.118 is out koboldcpp-1.118 · · - Row Split has been removed, selecting it will now default to tensor split. - Rocwmma has been removed, matching upstream… ⭐ 11,301 stars All open-source AI releases → https:// olud.ai/releases.html # OpenSource # Release # DevTools …