Unsloth 发布了 v0.1.803-beta 版本,引入了用于扩展聊天会话的实验性自动压缩功能,并预览了远程和局域网访问功能。此次更新还包括了大量的错误修复、用于更快聊天流的性能增强,以及改进的硬件兼容性,包括对 AMD 和 Intel XPU 的支持。新的自动压缩功能允许聊天通过存档旧的对话轮次来超出模型上下文限制,这些对话轮次仍然可以通过 Unsloth 的 RAG 管道进行搜索。远程访问允许用户从其网络上的其他设备连接到 Unsloth,而无需云服务。 AI
影响 通过更长上下文和网络访问功能增强了本地 LLM 的可用性。
排序理由 AI 工具的软件发布,而非前沿模型发布。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →