Mozilla 发布了 Llamafile 0.10.4,这是其工具的一个新版本,旨在通过将大型语言模型 (LLM) 打包成单个、跨平台的 文件来简化其使用。此更新包括一个名为 Transcribefile 的新组件,该组件基于 Transcribe.cpp 项目构建,并整合了其 Llama.cpp 上游的更新。Llamafile 0.10.4 的增强功能还包括对 Vulkan API 和 AMD ROCm 加速的改进,增加了 HTTPS 下载功能,并支持 pledge/SECCOMP 沙盒。 AI
影响 简化了 LLM 在各种硬件和操作系统上的部署和可访问性。
排序理由 这是一个软件工具发布,而不是前沿模型发布或重要的行业事件。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →