safetensors
PulseAugur coverage of safetensors — every cluster mentioning safetensors across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Ollama 发布 v0.34.1，更新 MLX 和 GGUF 模型创建功能
Ollama 发布了 0.34.1 版本，带来多项重要更新。该版本使 MLX safetensors 的 "ollama create" 功能不再处于实验阶段，并改进了 Apple Silicon 上 MLX 的内存处理。此外，GGUF 模型创建现在需要使用 llama.cpp 工具进行 safetensor 转换和量化，并且优化了 runaway repeat token 检测以减少误报。
-
YuE2-3B 音频模型通过新的分词和微调工具得到增强
为 YuE2-3B 音频生成模型发布了一套新工具，使用户能够对自己的录音进行分词，并针对特定艺术家微调模型。此次发布包括一个音频到语义分词编码器和一个 NAR 分支 LoRA，可用于生成新歌曲或翻唱。这些工具设计用于 24GB GPU，并需要特定的 Python 库和数据集。
-
Hugging Face生态系统在mRNA模型、Gradio和safetensors方面取得进展 · 跟踪3个来源
Hugging Face 参与了多项与人工智能相关的开发。该公司在一篇关于使用165美元训练25种物种的mRNA语言模型的帖子中被重点介绍。此外，用于构建机器学习模型界面的工具Gradio正在自定义前端的背景下进行讨论。最后，safetensors格式已加入PyTorch基金会，表明更广泛的行业采用和合作。
-
Qwen3.8-Flash-Next-FP8 VLM 拥有 125B 参数和 Gated DeltaNet
Qwen3.8-Flash-Next-FP8 是一个拥有 1250 亿参数的 VLM，它使用了 60 亿激活 MoE 单元和 Gated DeltaNet 架构。此 FP8 版本分布在 131 个 safetensors 分片中，并支持思考模式和代理控制等高级功能。
-
AI 代理安全：LLM 供应链保护清单
本文概述了一份用于保护 AI 代理供应链的安全清单，强调需要将所有代理组件视为版本化构件，而非简单的配置文件。文章详细介绍了四个关键的依赖项类别：模型提供商和构件、工具插件、模型上下文协议 (MCP) 服务器以及提示包。作者强调，这些组件中的每一个都需要严格的安全措施，包括来源追踪、签名、固定和运行时最小权限，以防止篡改、拼写错误攻击和恶意更新。
-
Liquid AI 通过 DSpark 投机性解码将 LFM2.5 模型速度提升高达 3.18 倍
Liquid AI 发布了其 LFM2.5 系列的 DSpark 草稿模型，这些模型在不改变输出质量的情况下，将解码速度提高了高达 3.18 倍。该方法使用投机性解码，其中一个较小的草稿模型提出代币候选，然后由一个较大的目标模型进行验证。这种方法显著加快了推理速度，尤其适用于延迟至关重要的代理应用。这些模型可供自托管，并兼容 llama.cpp 和 SGLang 等工具。
-
Reddit 用户质疑 safetensors 对 AI 模型是否安全
一位 Reddit 用户质疑了 safetensors 的安全性，safetensors 是一种常用于存储 Stable Diffusion 等 AI 模型的文件格式。该用户表示困惑，因为 safetensors 通常被认为是比 pickle 等旧格式更安全的选择，而 pickle 可以执行任意代码。该帖子暗示了在 AI 模型分发背景下对 safetensors 安全性的误解或特定担忧。
-
Open AI 模型分发层增长速度是核心模型的 7 倍
开源 AI 模型生态系统的分发层正在经历快速增长，其速度超过了模型本身的开发速度。Hugging Face 报告称，尽管模型库在 2026 年前七个月增长了 21.5%，但使用 GGUF 格式的库却增长了 464%。这表明，模型打包和转换为可运行格式（通常由 Unsloth 等第三方发布者完成）的普及程度远超原始实验室的直接发布。企业可能会在不知情的情况下采用这些社区生产的产物，从而引发关于来源和标准化的疑问。
-
Hugging Face博客强调mRNA模型、Gradio和safetensors加入PyTorch基金会 · 跟踪3个来源
Hugging Face 参与了多项与AI相关的开发。该公司博客宣布，现在仅需165美元即可跨25种物种训练mRNA语言模型。此外，Gradio 在 Hugging Face 后端的支持下，允许创建自定义前端。在模型共享方面的一项重大举措是，safetensors 已加入 PyTorch 基金会。
-
AI模型下载通过恶意代码带来供应链风险
文章讨论了AI模型分发中的安全漏洞，特别是供应链攻击。文章着重指出恶意代码如何通过使用Python的Pickle格式嵌入模型文件中，导致远程代码执行。文章提倡采用更安全的序列化格式，如safetensors，以减轻这些风险。
-
Ollama create：深入了解构建自定义 LLM
Ollama 的 `create` 命令充当模型编译器，接收 Modelfile 来构建自定义语言模型。它解析基础模型，将指令处理成内容寻址层，并生成清单。这种基于层的处理方式可以实现高效重建，因为只需要重新处理更改的参数。该命令支持各种自定义标志，包括指定 Modelfile、将模型量化为 Q8_0 或 Q4_K 等格式，以及用于 Safetensors 的实验性功能。
-
指南介绍如何将 Hugging Face 模型转换为 MLX 格式
一份新指南详细介绍了如何将 Hugging Face 模型转换为 MLX 格式，该过程主要涉及调整参数命名和数据类型，而不是创建新的容器。转换工具 mlx_lm.convert 允许用户指定所需的数据类型（float16、bfloat16 或 float32），并可选择启用量化。该过程被描述为很大程度上是机械性的，从而支持社区驱动的转换。该指南还提供了安装必要的 Python 包的说明，并通过加载模型和生成文本来验证转换。
-
新AI图像生成器将支持StableDiffusion、SDXL和GGUF
一款新的AI图像生成工具即将发布，重点关注StableDiffusion、SDXL和GGUF兼容性等功能。该工具旨在提供ComfyUI的替代方案，并强调本地和离线AI能力。
-
Hugging Face 模型下载需要超越文件大小的检查
在从 Hugging Face 下载模型之前，用户应检查几个关键因素，而不仅仅是文件大小。这包括检查模型的许可证是否允许预期用途，特别是对于根据 Meta 的 Llama 3.1 许可证，月活跃用户超过 7 亿的商业产品。此外，用户必须考虑 safetensors 等文件格式以进行微调，或 GGUF 以进行量化推理，并确保模型能够适应可用硬件，这通常需要为较小的 GPU 进行量化。在承诺下载之前，通过 API 服务测试模型可以节省时间和资源。
-
分析称：开放权重的LLM如同二进制文件，而非可修补代码
一篇文章认为，开放权重的语言模型，尽管看起来如此，但其功能更像是供应商提供的二进制文件，而不是可修补的依赖项。这种区别至关重要，因为用户无法像传统的软件库那样直接修改或修复这些模型的预训练。相反，真正的
-
发布新的无审查大语言模型：LongCat、Jamba2、Qwen3.5 变体
已发布多个无审查版本的大语言模型，包括 LongCat-Flash-Lite、Jamba2-Mini 和 Qwen3.5 变体。LongCat-Flash-Lite 模型是一个 69B-A3B 参数模型，已修改以将拒绝率从 100/100 降低到 9/100，加载 GGUF 格式需要特定的 llama.cpp 分支。Jamba2-Mini 是一个 52B 参数的混合 Mamba 模型，其拒绝率从 97/100 降低到 4/100，并兼…
-
Kroma v0.1 LoRA 微调模型已发布，适用于 Krea 2 模型
名为 Kroma v0.1 的新 LoRA 微调模型已发布，适用于 Krea 2 模型，专为 ComfyUI 设计。此微调模型打包为单个 safetensors 文件，不仅包含 LoRA 适配器，还包含完全微调的归一化和调制张量作为权重增量。Kroma v0.1 兼容基础 Krea 2 检查点和更快的 Turbo 版本，并提供了特定推荐设置以获得最佳效果。
-
Audio8发布紧凑型0.6B TTS模型，支持零样本语音克隆
Audio8发布了一款新的文本转语音模型Audio8 TTS Preview 0.6B，该模型以其紧凑的尺寸和SOTA级性能而著称。尽管只有0.6亿参数，该模型在基准测试中取得了有竞争力的结果，包括在Seed-TTS基准测试中取得了最佳的英语词错误率（WER）。它支持多语言语音生成和零样本语音克隆，并计划在未来版本中提供更广泛的语言支持。
-
Flux 2 Klein 9B 本地部署挑战：吞吐量 vs. 成本
本文讨论了在本地运行 Flux 2 Klein 9B 等人工智能模型的实际挑战，重点关注吞吐量而非单张图片的成本。文章介绍了一个计算器，用于估算在延迟变得不可接受之前，GPU 和操作员每小时可以处理多少任务。作者强调了 GPU 瓶颈（可通过硬件或更快的模型解决）与操作员瓶颈（需要流程改进）之间的区别。文章详细介绍了 Flux 2 Klein 9B 模型的参数，包括其大小、显存需求以及其蒸馏版本和基础版本之间显著的性能差异。
-
AI模型分发面临序列化和架构漏洞的安全风险
分发和加载AI模型相关的安全风险不容忽视，“pickle”文件尤其构成威胁。Pickle是Python的一种序列化格式，可以嵌入恶意代码，在加载时执行，类似于Word文档可能在后台安装恶意软件。虽然SafeTensors等较新格式通过剥离可执行代码来缓解pickle相关的漏洞，但它们并未解决模型架构本身嵌入的攻击，例如Keras模型中恶意的Lambda层。对于使用GGUF等格式在本地运行的LLM，风险从加载时的代码执行转移到微调过程中…