Ling-3.0
PulseAugur coverage of Ling-3.0 — every cluster mentioning Ling-3.0 across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
蚂蚁集团推出SingProbe,一款过程内AI安全护栏
蚂蚁集团推出了SingProbe,一个内部开发的旨在将风险检测直接集成到AI模型生成过程中的安全系统。这种方法旨在以最小的开销识别不安全内容和事实错误,据报道在解码阶段的额外成本不到0.5%。SingProbe已适配29个开源模型,并支持SGLang和vLLM等推理框架,代码和基准测试现已公开。
-
ik_llama.cpp 增加了 DFlash 2 推测解码和对新模型的支持
向 ik_llama.cpp 项目提交了一个拉取请求,引入了 DFlash 2 推测解码。此次更新还包括通过 HIP、Vulkan 支持 RDNA3 GPU 上的 IQ4_KS 和 IQ4_KT 量化格式,以及 DSpark 的初步实现。该项目还增加了对 Ling-3.0 模型和 Muse-Glimmer 的运行时支持。
-
开放权重AI透明度争论超越可下载端点
关于开放权重AI模型的讨论通常集中在最终权重是否可下载。然而,更深层次的透明度问题涉及到外部人员检查多个端点或检查点的能力。Ling-3.0基础模型的发布,包含不同训练阶段的六个检查点,提供了一个分层透明度的具体例子。这使得研究人员能够独立验证训练声明,并分析不同阶段的行为变化,超越了简单的“是/否”的“开放”标识。
-
AntLing 发布六个 Ling-3.0 基础模型检查点供研究使用
AntLing 已发布其 Ling-3.0 模型全部六个基础检查点,提供 tiny 和 flash 两种尺寸,覆盖预训练、中期训练和 WSM 合并三个训练阶段。这些检查点旨在用于持续预训练、微调和研究目的,而非直接用作聊天或指令模型。此次发布为开发者提供了在不同阶段进入训练流程的灵活性,其中 tiny 版本在编码方面表现出与更大模型相当的强劲性能,而 flash 版本在编码、推理和长上下文任务方面表现出色。
-
Ling-3.0 (BailingMoE3) 模型已集成到 llama.cpp 以供本地使用
Ling-3.0 (BailingMoE3) 模型已正式集成到 llama.cpp 主线,可在本地设置中使用。Ling-3.0 tiny (8B) 和 flash (127B) 模型的量化 GGUF 版本现已可用。在 Intel Arc B580 GPU 上的初步基准测试显示出有希望的性能,其中 8B 模型在 12GB VRAM 内实现了超过 120 tokens/秒的速度,并支持高达 128K 的上下文。
-
llama.cpp 通过 PR #26608 添加了 Ling-3.0 模型支持
llama.cpp 项目已提交一个拉取请求 (PR #26608),以添加对 Ling-3.0 模型架构的支持。该架构被认为与 DeepSeekV2 相似。对 Tiny 模型的支持已合并,并已用于家庭助理语音,取得了积极成果,特别是其承认不知道某事时的倾向。然而,由于 CI 问题和需要更多测试数据,主要的 PR 仍未合并。
-
inclusionAI 发布轻量级 Ling-3.0-tiny MoE 模型以支持本地部署
inclusionAI 发布了 Ling-3.0-tiny,这是一款新的混合推理专家混合(MoE)模型,总参数为 79 亿,每个 token 激活参数为 13 亿。该模型专为高效的本地部署和资源受限环境而设计,提供强大的推理和代理能力。它采用了新颖的 Kimi Delta Attention (KDA) 和 Multi-Head Latent Attention (MLA) 架构,支持快速响应和多步推理,并在 Apple Silico…