safetensors
PulseAugur coverage of safetensors — every cluster mentioning safetensors across labs, papers, and developer communities, ranked by signal.
11 天有情绪数据
-
AI 代理安全：LLM 供应链保护清单
本文概述了一份用于保护 AI 代理供应链的安全清单，强调需要将所有代理组件视为版本化构件，而非简单的配置文件。文章详细介绍了四个关键的依赖项类别：模型提供商和构件、工具插件、模型上下文协议 (MCP) 服务器以及提示包。作者强调，这些组件中的每一个都需要严格的安全措施，包括来源追踪、签名、固定和运行时最小权限，以防止篡改、拼写错误攻击和恶意更新。
-
Liquid AI 通过 DSpark 投机性解码将 LFM2.5 模型速度提升高达 3.18 倍
Liquid AI 发布了其 LFM2.5 系列的 DSpark 草稿模型，这些模型在不改变输出质量的情况下，将解码速度提高了高达 3.18 倍。该方法使用投机性解码，其中一个较小的草稿模型提出代币候选，然后由一个较大的目标模型进行验证。这种方法显著加快了推理速度，尤其适用于延迟至关重要的代理应用。这些模型可供自托管，并兼容 llama.cpp 和 SGLang 等工具。
-
Reddit 用户质疑 safetensors 对 AI 模型是否安全
一位 Reddit 用户质疑了 safetensors 的安全性，safetensors 是一种常用于存储 Stable Diffusion 等 AI 模型的文件格式。该用户表示困惑，因为 safetensors 通常被认为是比 pickle 等旧格式更安全的选择，而 pickle 可以执行任意代码。该帖子暗示了在 AI 模型分发背景下对 safetensors 安全性的误解或特定担忧。
-
Open AI 模型分发层增长速度是核心模型的 7 倍
开源 AI 模型生态系统的分发层正在经历快速增长，其速度超过了模型本身的开发速度。Hugging Face 报告称，尽管模型库在 2026 年前七个月增长了 21.5%，但使用 GGUF 格式的库却增长了 464%。这表明，模型打包和转换为可运行格式（通常由 Unsloth 等第三方发布者完成）的普及程度远超原始实验室的直接发布。企业可能会在不知情的情况下采用这些社区生产的产物，从而引发关于来源和标准化的疑问。
-
Hugging Face博客强调mRNA模型、Gradio和safetensors加入PyTorch基金会 · 跟踪3个来源
Hugging Face 参与了多项与AI相关的开发。该公司博客宣布，现在仅需165美元即可跨25种物种训练mRNA语言模型。此外，Gradio 在 Hugging Face 后端的支持下，允许创建自定义前端。在模型共享方面的一项重大举措是，safetensors 已加入 PyTorch 基金会。
-
AI模型下载通过恶意代码带来供应链风险
文章讨论了AI模型分发中的安全漏洞，特别是供应链攻击。文章着重指出恶意代码如何通过使用Python的Pickle格式嵌入模型文件中，导致远程代码执行。文章提倡采用更安全的序列化格式，如safetensors，以减轻这些风险。
-
Ollama create：深入了解构建自定义 LLM
Ollama 的 `create` 命令充当模型编译器，接收 Modelfile 来构建自定义语言模型。它解析基础模型，将指令处理成内容寻址层，并生成清单。这种基于层的处理方式可以实现高效重建，因为只需要重新处理更改的参数。该命令支持各种自定义标志，包括指定 Modelfile、将模型量化为 Q8_0 或 Q4_K 等格式，以及用于 Safetensors 的实验性功能。
-
指南介绍如何将 Hugging Face 模型转换为 MLX 格式
一份新指南详细介绍了如何将 Hugging Face 模型转换为 MLX 格式，该过程主要涉及调整参数命名和数据类型，而不是创建新的容器。转换工具 mlx_lm.convert 允许用户指定所需的数据类型（float16、bfloat16 或 float32），并可选择启用量化。该过程被描述为很大程度上是机械性的，从而支持社区驱动的转换。该指南还提供了安装必要的 Python 包的说明，并通过加载模型和生成文本来验证转换。
-
新AI图像生成器将支持StableDiffusion、SDXL和GGUF
一款新的AI图像生成工具即将发布，重点关注StableDiffusion、SDXL和GGUF兼容性等功能。该工具旨在提供ComfyUI的替代方案，并强调本地和离线AI能力。
-
Hugging Face 模型下载需要超越文件大小的检查
在从 Hugging Face 下载模型之前，用户应检查几个关键因素，而不仅仅是文件大小。这包括检查模型的许可证是否允许预期用途，特别是对于根据 Meta 的 Llama 3.1 许可证，月活跃用户超过 7 亿的商业产品。此外，用户必须考虑 safetensors 等文件格式以进行微调，或 GGUF 以进行量化推理，并确保模型能够适应可用硬件，这通常需要为较小的 GPU 进行量化。在承诺下载之前，通过 API 服务测试模型可以节省时间和资源。
-
分析称：开放权重的LLM如同二进制文件，而非可修补代码
一篇文章认为，开放权重的语言模型，尽管看起来如此，但其功能更像是供应商提供的二进制文件，而不是可修补的依赖项。这种区别至关重要，因为用户无法像传统的软件库那样直接修改或修复这些模型的预训练。相反，真正的
-
发布新的无审查大语言模型：LongCat、Jamba2、Qwen3.5 变体
已发布多个无审查版本的大语言模型，包括 LongCat-Flash-Lite、Jamba2-Mini 和 Qwen3.5 变体。LongCat-Flash-Lite 模型是一个 69B-A3B 参数模型，已修改以将拒绝率从 100/100 降低到 9/100，加载 GGUF 格式需要特定的 llama.cpp 分支。Jamba2-Mini 是一个 52B 参数的混合 Mamba 模型，其拒绝率从 97/100 降低到 4/100，并兼…
-
Kroma v0.1 LoRA 微调模型已发布，适用于 Krea 2 模型
名为 Kroma v0.1 的新 LoRA 微调模型已发布，适用于 Krea 2 模型，专为 ComfyUI 设计。此微调模型打包为单个 safetensors 文件，不仅包含 LoRA 适配器，还包含完全微调的归一化和调制张量作为权重增量。Kroma v0.1 兼容基础 Krea 2 检查点和更快的 Turbo 版本，并提供了特定推荐设置以获得最佳效果。
-
Audio8发布紧凑型0.6B TTS模型，支持零样本语音克隆
Audio8发布了一款新的文本转语音模型Audio8 TTS Preview 0.6B，该模型以其紧凑的尺寸和SOTA级性能而著称。尽管只有0.6亿参数，该模型在基准测试中取得了有竞争力的结果，包括在Seed-TTS基准测试中取得了最佳的英语词错误率（WER）。它支持多语言语音生成和零样本语音克隆，并计划在未来版本中提供更广泛的语言支持。
-
Flux 2 Klein 9B 本地部署挑战：吞吐量 vs. 成本
本文讨论了在本地运行 Flux 2 Klein 9B 等人工智能模型的实际挑战，重点关注吞吐量而非单张图片的成本。文章介绍了一个计算器，用于估算在延迟变得不可接受之前，GPU 和操作员每小时可以处理多少任务。作者强调了 GPU 瓶颈（可通过硬件或更快的模型解决）与操作员瓶颈（需要流程改进）之间的区别。文章详细介绍了 Flux 2 Klein 9B 模型的参数，包括其大小、显存需求以及其蒸馏版本和基础版本之间显著的性能差异。
-
AI模型分发面临序列化和架构漏洞的安全风险
分发和加载AI模型相关的安全风险不容忽视，“pickle”文件尤其构成威胁。Pickle是Python的一种序列化格式，可以嵌入恶意代码，在加载时执行，类似于Word文档可能在后台安装恶意软件。虽然SafeTensors等较新格式通过剥离可执行代码来缓解pickle相关的漏洞，但它们并未解决模型架构本身嵌入的攻击，例如Keras模型中恶意的Lambda层。对于使用GGUF等格式在本地运行的LLM，风险从加载时的代码执行转移到微调过程中…
-
Unsloth为更快的本地LLM训练增加了AMD GPU支持
Unsloth发布了一项更新，显著增强了对AMD GPU的支持，从而可以在各种AMD硬件上进行本地LLM训练和推理。新版本承诺在不影响准确性的情况下，性能提升高达2倍，显存使用量减少70%。更新还包括对ROCm的优化、与MI300X和MI325X等特定AMD GPU的兼容性改进，以及运行更大模型和更可靠下载的增强功能。
-
Aether-7B-5Attn 模型名称审计，揭示 6 种不同的机制
对 Aether-7B-5Attn 模型架构的技术审计发现，其名称与其实际实现之间存在差异。尽管该模型命名为 '5Attn'，暗示有五个注意力机制，但对其权重的分析表明，其各层之间存在六种不同的参数签名。进一步调查显示，'compress' 和 'sliding' 机制是 'full' 注意力的变体，导致对数字五有不同的解释。此次审计凸显了验证开源模型架构声明的挑战，以及模型命名约定中潜在的歧义。
-
下载前检查Hugging Face模型：仓库详情指南
本周的教程重点在于，在不直接访问GPU或API的情况下，理解Hugging Face模型仓库。作者指导读者检查模型的网页，特别是Qwen/Qwen2.5-3B-Instruct，以收集关键信息。提取的关键细节包括模型架构、大小（30亿参数）、是基础模型还是指令微调模型、估计下载大小以及许可条款，所有这些都在下载任何文件之前完成。
-
开发者发布工具以可视化和分析 safetensors 模型量化
一位开发者创建了两个 Python 工具来可视化和分析 safetensors 文件，这些文件通常用于存储 AI 模型。第一个工具 `model_explorer.py` 以树状格式显示 safetensors 文件的结构，详细说明层大小、数据类型和量化方法，如 NVFP4 和 INT4。第二个工具 `quant_explorer.py` 将基础模型与其量化版本进行比较，将层分类为已量化、保持原始精度或降级，并识别这些分类的模式。开发…