一款名为 Diffusion Gemma 的新型混合专家（MoE）模型已发布，拥有 260 亿参数。该模型的架构设计旨在实现高效的本地部署，社区已在讨论如何将其与 llama.cpp 等工具集成。此次发布因其潜在的性能和可访问性而在社区中引起了兴奋。 AI
影响 实现了更高效的本地 AI 模型执行和实验。
排序理由 该集群描述了一个新的开源模型的发布，属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1u27wil/diffusion_gemma_26b_moe/"> <img alt="Diffusion Gemma 26B MOE" src="https://preview.redd.it/p52ce2krjh6h1.png?width=640&crop=smart&auto=webp&s=93c982d2ed57efd53add2cd4b0d5ab19becb1b6e" title…