35b a3b
PulseAugur coverage of 35b a3b — every cluster mentioning 35b a3b across labs, papers, and developer communities, ranked by signal.
-
OpenBMB 发布 MiniCPM-V 4.7,一款可在 iPhone 上运行的 35B MoE 模型
OpenBMB 和 Face++ 发布了 MiniCPM-V 4.7,这是一款开源的多模态模型,可以在内存仅为 3GB 的移动设备上运行。该模型有两种版本:一个 35B 参数的混合专家(MoE)模型,每次推理激活 3B 参数;另一个是适用于极小型设备的 1.3B 参数模型。MiniCPM-V 4.7 在 MMBench、MMMU 和 OmniDocBench 等各种基准测试中表现出色,即使在承受显著的视觉压缩的情况下也是如此。该模型采…
-
Ornith 1.5 35B-A3B 模型为本地 AI 代理提供 3 倍速度提升
Reddit r/LocalLLaMA 版块的一名用户报告称,在将 Qwen3.8 27B 模型切换到 Ornith 1.5 35B-A3B 进行本地代理任务时,性能显著提升。Ornith 模型达到了大约 180 tokens/秒,比 Qwen 模型 60 tokens/秒的速度提升了三倍,同时在用户用于工具使用和编码的自定义测试中保持了可比的性能。这种速度提升归因于 Ornith 的架构,该架构每个 token 使用的激活参数数量较…
-
Bilibili 开源支持 150 种语言的 Index-Translate 模型家族
Bilibili 已开源 Index-Translate,一个基于 Qwen 3.5 构建的多语言翻译模型家族。该模型有三种尺寸(2B、9B 和 35B-A3B),支持 150 种语言,提供超越标准文本翻译的能力。专门的变体包括语音翻译、可控配音和长文档翻译,旨在支持多样化的多语言内容制作。
-
Ornith AI 发布 Ornith-1.5 模型系列,专注于自我改进
Ornith AI 发布了 Ornith-1.5 模型系列,其中包括一个 9B 的密集模型以及 35B 和 397B 的混合专家(MoE)变体。这些模型旨在实现自我改进,并在推理、编码和代理任务等各种基准测试中表现出与 Claude Opus 4.8 等成熟模型相媲美的性能。这些模型可在 Hugging Face 上获取,并兼容 Transformers、llama.cpp、vLLM 和 SGLang 等流行推理工具,并提供了集成说明。
-
Qwen 开发人员建议不要等待 35B-A3B 模型
来自 Qwen 的一位开发人员建议用户不要期待 35B-A3B 模型的发布。这一声明引发了社区关于未来模型发布(例如 122B 版本)或是否会有任何新模型发布的猜测。
-
用户在r/LocalLLaMA上分享35B-a3B模型的使用体验
该用户正在r/LocalLLaMA子版块讨论他们使用35B-a3B模型(可能是一个大型语言模型)的体验。这篇帖子似乎是关于使用这个特定模型的个人经历或提问,可能是想寻求建议,或与对本地运行语言模型感兴趣的其他用户分享见解。
-
Multimodal模型 endless-frontier/BigBang-v1 在 Hugging Face 上发布
endless-frontier/BigBang-v1 模型现已在 Hugging Face 上提供,具备多模态能力。该模型可与 Transformers 等流行库以及 vLLM 和 SGLang 等推理提供商集成。提供了在 Google Colab、Kaggle 和本地应用程序等各种环境中使用该模型的说明和代码示例。
-
消费级GPU在122B模型上实现高LLM速度,运行速度达37 t/s
Reddit的r/LocalLLaMA子版块上一位用户分享了在消费级硬件上运行大型语言模型的令人印象深刻的基准测试。他们使用Nvidia RTX 4090和RTX 5060 Ti,并将部分层卸载到64GB系统内存,在350亿参数模型(35b a3b)上实现了每秒206个token。更值得注意的是,在类似条件下,一个1220亿参数模型(barium-122)的运行速度达到了每秒37个token,超出了用户的乐观预期。
-
Reddit 上关于 Qwen 3.6 硬件成本的讨论
一位 Reddit 用户正在寻找运行 Qwen 3.6 模型(特别是 27B 和 35B-A3B 变体)最具成本效益的硬件配置,目标是达到每秒 40 个 token 的性能。该用户已确定了像 RTX 3090 24GB 或 Tesla v100 32GB 这样的潜在硬件,并正在寻找阿里巴巴提出的 2000 美元单 RTX 3090 系统的替代方案。讨论表明,Qwen 3.6 在编码和代理任务方面表现出色,而 Gemma4 则更适合生成…
-
LLaMA 用户讨论 Qwen3.6 27B 与 35B-A3B 量化质量
r/LocalLLaMA 子版块的用户正在讨论他们对 Qwen3.6 模型不同量化版本的体验。具体来说,他们正在将 27B 参数模型的 IQ3 量化与 35B-A3B 变体的 Q4 量化进行比较。对话侧重于哪个版本在特定用例(尤其是在智能体应用中)提供了更好的能力,而不是原始生成速度。
-
用户寻求关于 RTX 5090 和 64GB RAM 的 LLM 性能优化建议
r/LocalLLaMA subreddit 上的一位用户正在寻求关于优化其硬件设置以运行大型语言模型的建议。他们拥有一块 NVIDIA RTX 5090 GPU 和 64GB DDR5 RAM,正在权衡是在 vLLM 中使用 Qwen 3.6 27b NVFP4,还是在 Llama 上使用 Q8 版本的 35b a3b 模型来执行代理编码任务。用户主要关心如何有效利用其系统的内存以获得更好的性能。