safetensors
PulseAugur coverage of safetensors — every cluster mentioning safetensors across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Unsloth Studio 发布 v0.1.48-beta 版本，增强模型导出和 API 服务
Unsloth Studio 发布了 v0.1.48-beta 版本，为模型导出和 API 服务带来了显著增强。此次更新支持将模型导出为多种格式，包括 NVFP4、FP8 和 imatrix GGUFs，并引入了更强大的 OpenAI 兼容 API 服务，具备自动模型切换和工具调用修复等功能。此外，该版本还改进了 RAG 和文件聊天功能，提供更好的文档解析和可定制的嵌入模型，同时对 Unsloth 平台进行了整体优化和可靠性提升。
-
Hugging Face 强调 AI 在 mRNA 模型、Safetensors 和网络安全方面的进展
Hugging Face 正在强调 AI 领域的几项关键进展。其中一篇文章详细介绍了如何以低至 165 美元的成本跨 25 个物种训练 mRNA 语言模型。另一项公告涵盖了 Safetensors 加入 PyTorch 基金会，这标志着朝着标准化和协作迈进。最后，一篇文章探讨了开放性在 AI 和网络安全未来中的重要性。
-
Ornith 1.0 模型解释：密集型 vs MoE 以及格式/精度详情
一份指南已发布，用于解释新型 Ornith 1.0 模型的术语和概念。该指南阐明了密集型（Dense）和混合专家（Mixture of Experts, MoE）架构之间的区别，指出 MoE 模型每个 token 只激活一部分参数，这会影响计算速度但不会影响内存（RAM）需求。它还详细介绍了模型库中的两个关键变体：格式（safetensors 用于原始模型，GGUF 用于本地执行）和精度（BF16、FP8 以及各种 GGUF 量化以减…
-
mRNA模型训练成本165美元，Safetensors加入PyTorch，NVIDIA发布Nemotron 3.5
研究人员开发出一种方法，能够以低至165美元的成本跨25种物种训练mRNA语言模型，并利用了Hugging Face的平台。此外，Safetensors格式已加入PyTorch基金会，增强了其在深度学习生态系统中的集成和采用。另外，NVIDIA发布了Nemotron 3.5，这是一款专为全球企业定制化内容审核设计的多模态安全模型。
-
Qwen3.5 27B和35B未审查模型已发布
用户LLMFan46发布了Qwen3.5模型的两个未审查版本：一个27B参数模型和一个名为A3B的35B参数模型。这些模型有多种格式可供选择，包括Safetensors、GGUFs、NVFP4和GPTQ-Int4。用户澄清说，虽然Qwen3.5和Qwen3.6共享相同的架构，但Qwen3.5针对通用AI助手进行了优化，而Qwen3.6则面向代理和编码任务。
-
C# 用户寻求将小型 GPT 模型保存为 safetensor 格式的方法
r/LocalLLaMA subreddit 上的一位用户正在寻求帮助，希望将一个小型 GPT 模型从 C# 保存到 safetensor 文件中。他们在使用 SafetensorSharp 和 Lokan.Safetensors 等现有库时遇到问题，并正在寻找可靠的方法或代码示例，以确保与 safetensor 读取应用程序和转换工具的兼容性。
-
Google 的 Gemma 4 31B 在 TPU 上进行了微调和部署优化
一篇新的研究论文详细介绍了在 Google Cloud TPU 上微调和部署 Google 的 Gemma 4 31B 模型的首个端到端演示。该研究对大型语言模型适配的 TPU 和 GPU 平台进行了实证比较，记录了将 GPU 原生训练配方移植到基于 JAX 的堆栈所需的代码级适配。结果表明，与 GPU 基线相比，TPU 训练速度快 1.61 倍，成本低 2.12 倍，推理吞吐量几乎相同，并且 TPU 的首次令牌时间降低了 2 倍。
-
Safetensors加入PyTorch基金会，使mRNA模型训练成本更低
研究人员开发了一种方法，能够以165美元的成本跨25种物种训练mRNA语言模型。另外，Safetensors格式已加入PyTorch基金会，表明其在机器学习生态系统中的广泛采用和集成。
-
Safetensors 库经安全审计，将成为机器学习模型的默认格式
由 Hugging Face 与 EleutherAI 和 Stability AI 合作开发的 safetensors 库已通过 Trail of Bits 的安全审计，确认其安全性。此次审计使这些组织能够朝着使 safetensors 成为保存和加载机器学习模型的默认格式迈进，取代 PyTorch 使用的不太安全的 pickle 格式。该库具有加载速度更快和延迟加载等优势，现在将在 transformers 库中默认安装。