Unsloth 发布了一个 Beta 更新，引入了多项旨在提高本地AI模型性能和可访问性的新功能。此次更新包括一项实验性的自动压缩功能，通过 RAG 管道使旧的对话轮次可搜索，从而允许聊天内容超过模型的上下文限制。此外，远程和局域网访问的预览功能使用户能够从其网络上的其他设备连接到 Unsloth。此次发布还带来了性能增强，以实现更快的聊天流式传输、改善的UI延迟以及更好地处理长对话，并支持自定义 llama.cpp 构建和高级推理设置。 AI
影响 增强了在自有硬件上运行模型的用户的本地AI模型可用性和性能。
排序理由 这是用于运行本地AI模型的工具的软件更新，而不是核心AI模型发布或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
