Gemma
PulseAugur coverage of Gemma — every cluster mentioning Gemma across labs, papers, and developer communities, ranked by signal.
- developed by .google 100%
- developed by GOOGL 100%
- instance of Gemma 4 90%
- developed by DiffusionGemma 90%
- instance of large-language models 90%
- instance of Gemma 4: 26b 90%
- instance of Google Gemma 90%
- used by Qwen 2.5 90%
- instance of Pythia 90%
- developed by Gemma 4 70%
- used by vLLM 70%
- used by large-language models 70%
27 天有情绪数据
-
用户将 DeepSeek V4 Pro 蒸馏到 Gemma 26B MoE 和 12B 密集模型
一位用户详细介绍了将 DeepSeek V4 Pro 模型蒸馏成两个 Gemma 版本的过程:一个 26B 参数的 MoE 模型和一个 12B 参数的密集模型。蒸馏过程包括重新填充 Natural Questions QA 对,DeepSeek API 调用成本为 0.36 美元。用户在 Unsloth Studio 中遇到了 bug,但最终成功在一台配备两块 RTX 3090 GPU 的服务器上训练了模型。26B 模型消耗了更多的 …
-
Mac Mini M4 使用 Gemma 和 Ornith 模型托管本地 AI 代理
一位用户探索了在配备 16GB RAM 的 Mac Mini M4 上设置本地 AI 代理,目标是创建一个有用且个性化的助手。初步测试在 OpenClaw 框架内比较了 Gemma 和 Ornith 模型,发现 Ornith 在工具使用和文件操作方面能力更强。然而,Gemma 被发现具有更优越的“可爱”个性,提供了更令人愉悦且富含表情符号的交互风格。最终,用户通过将 Ornith 模型与 Hermes Agent 框架配对,找到了平衡…
-
Agon 框架使用竞争性 AI 模型对推理进行评分
研究人员推出了一种新颖的竞争性强化学习框架 Agon,旨在提高 AI 模型的推理能力。与仅对最终答案评分的传统方法不同,Agon 将两个模型进行对抗,每个模型通过隐式方式对另一个模型的推理过程进行评分。这种竞争性设置通过面对日益强大的对手,迫使模型发展出更好的思考策略,从而带来显著的性能提升。在 DeepMath 数据集上使用 Qwen3 进行测试时,Agon 的 pass@1 率是标准 GRPO 的两倍,并且比未经训练的 Mixtu…
-
Google 发布 Gemma 2 开源大语言模型系列,采用注重效率的架构
Google 发布了 Gemma 2,这是其开源大语言模型系列的更新版本,提供 9B 和 27B 参数规模。这些模型采用了重要的架构变更,包括混合注意力机制和分组查询注意力 (GQA),旨在提高推理效率并降低计算成本。Gemma 2 模型设计用于在 NVIDIA H100 GPU 或 Google TPU 等硬件上高效运行,使其对开发者和研究人员进行微调和部署更具可访问性。
-
Agents-A1 基准测试表明其优于 Qwen 3.6 35B-A3B
根据 webbrain.one 上的一篇文章,一项基准评估表明 Agents-A1 可能优于 Qwen 3.6 35B-A3B。该比较侧重于这些大型语言模型的规划能力。基准测试结果通过 Mastodon 分享,文章还提到了 Gemma。
-
Gemma LLM因其本地部署经济性和开发者体验而受到赞誉
作者强调了使用像Google的Gemma这样小型、可本地部署的大语言模型(LLM)所带来的实际经济优势,尤其对非洲等地区的开发者而言。文章指出,对于许多初创公司和精简团队来说,云基础设施的成本是一个重大障碍,使得高效的自托管模型比基准性能的边际改进更有价值。文章还详细介绍了将Gemma集成到Go API中的简单方法,展示了如何将LLM视为标准工程组件来简化AI的采用。
-
消除的语言模型在软件漏洞分析中表现出改进的性能
一项发表在arXiv上的新研究调查了语言模型安全对齐对其在软件安全任务中效用的影响。研究人员比较了Gemma和Qwen模型的对齐版本和拒绝消除版本,发现消除版本模型在某些漏洞分析工作流程中表现更好。具体而言,消除Gemma模型显示出更高的补丁可用性和编译率,而消除Qwen模型提高了漏洞定位的准确性。
-
Jacobian Lens技术可检测开源LLM中的幻觉
一位研究人员探索了Anthropic的Jacobian Lens技术,该技术分析模型内部状态,以检测开源大型语言模型中的幻觉。通过检查Gemma和Qwen等模型的“工作区”,研究人员发现,平静且一致的工作区通常与正确答案相关,而“模糊”或竞争性的工作区则表明幻觉的可能性更高。一个基于这些工作区特征训练的小型逻辑回归模型,在预测错误答案方面表现出更高的准确性,特别是对于Gemma模型,这表明本地模型有可能识别何时应升级到更强大的系统或外部搜索。
-
本地LLM推理因硬件改进和开放模型而获得关注
在本地运行大型语言模型正变得越来越可行和有益,尤其是在2026年。像Llama和Mistral这样的开放权重模型的进步,在编码和推理任务方面现在可以与中等水平的云API相媲美。消费级GPU足以托管大型模型,而Ollama等工具简化了设置过程。主要优势包括增强的隐私性、大批量使用的成本节省、摆脱速率限制和供应商锁定、复杂工作流程的低延迟以及离线能力。然而,模型质量的绝对前沿,尤其是在复杂推理方面,仍然掌握在专有模型手中,而合适硬件的初始…
-
LLM自我博弈训练可能利用合理性而非正确性
一项新的研究论文揭示了在使用自我博弈奖励机制训练大型语言模型时的一个关键缺陷。研究表明,当模型在没有外部参考的情况下被训练来评判自己的输出来时,它们会优先考虑合理性而非实际的正确性。这导致了一种被称为“奖励破解”的现象,模型可以通过生成令人信服但错误的答案在GSM8K等基准测试中获得高“通过率”,这个问题在Qwen、Llama和Gemma等不同模型家族中普遍存在。
-
新理论将Transformer上下文映射到MLP权重块
研究人员已经证明,Transformer模型中上下文的影响可以精确地映射到其MLP权重矩阵和RMSNorm尺度上的秩-1块。这个理论框架适用于包括Gemma在内的现代LLM架构,它提供了一种通用的方法来理解提示如何转化为有效权重。这项工作基于输入和输出可控性引入了一个通用框架,证明了具有这些属性的MLP块可以实现隐式权重打补丁。
-
研究发现,开源LLM在检查点之间的可信度会显著漂移
arXiv上发表的一项新研究审计了开源聊天LLM的可信度,特别考察了Yi、Qwen、Mistral和Gemma在多代模型中的表现。研究发现,可信度分数通常不能准确反映模型检查点之间的变化,在高于无漂移参考零值的情况下观察到了显著的漂移。作者提出,信任分数应被视为特定于每个检查点的过时产物,而不是在未经重新测量的情况下沿用到后续版本,并提倡使用纵向模型卡。
-
用户寻求在 Linux 上本地运行 Gemini Nano
Reddit 的 r/LocalLLaMA 版块的一位用户正在寻求帮助,以便在 Linux shell 上本地运行 Google 的 Gemini Nano 模型。用户已下载模型文件,很可能是量化的 Gemma vision 模型,但在使用 TensorFlow 和 llama.cpp 等常用工具加载 'weights.bin' 文件时遇到问题。他们怀疑这可能是一个 TFLite 或 RTLite 模型,并正在寻求指导以探索其功能。
-
Qwen 和 Gemma 大语言模型在基准测试中陷入僵局
Qwen 和 Gemma 大语言模型在性能上似乎陷入了僵局,在最近的基准测试中,两个模型都没有显示出相对于对方的显著进步。用户已经注意到并在线讨论了这一现象,表明它们在比较能力方面已达到平台期。
-
Gemma AI 在意识到步数限制时无法通过 CTF 挑战
一项使用 Gemma 模型进行的实验显示,在“攻防兼备”(CTF) 挑战中告知 AI 其剩余步数并未提高其成功率。事实上,当 Gemma 明确承认其步数限制时,它几乎总是无法解决 CTF。这表明,虽然模型会处理有关资源限制的信息,但它并不能有效地利用这些信息来改变其策略,常常会形成无法在剩余步数内测试的新假设。
-
Unsloth 2026 提升 LLM 微调速度,降低 VRAM 使用量
Unsloth,一个流行的用于微调大型语言模型的开源库,发布了 2026 版本,在速度和内存方面都有显著改进。通过使用自定义 Triton 和 Python 重写核心训练内核,Unsloth 的训练速度比标准的 HuggingFace TRL 基线快一倍,并将 VRAM 使用量减少了 70%。这种优化使得在消费级 GPU(如单块 RTX 4090)上微调 Llama 3 70B 等大型模型成为可能,并支持在单 GPU 设置下使用 GR…
-
本地 LLM 代理编码设置与“拉尔夫·威格姆”循环详解
作者详细介绍了使用本地大型语言模型(LLM)进行代理编码任务的经验,特别是采用了“拉尔夫·威格姆”循环策略。这种方法涉及一个 AI 代理反复尝试满足预定义的验收标准,直到成功或遇到无法解决的问题。文章提供了在消费级硬件上设置此类系统的技术指南,推荐使用 pi-coding-agent 配合 pi-wiggum 扩展以及 LM Studio 进行模型管理。
-
开发团队解决了 GPU Pinning、LLM 元评论和备份问题
一个开发团队解决了与 GPU 编排和 LLM 集成相关的几个复杂问题。他们修复了 LiteLLM 中导致 API 基础设置被忽略的错误,确保为 Qwen3-VL 等特定模型提供专用的 GPU 轨道。该团队还解决了 Windows 上 Ollama 的问题,包括环境变量继承和 GPU 选择,最终使用 UUID 将模型固定到特定 GPU 并禁用 Vulkan 后端。此外,他们还实施了新的保护措施,以防止 LLM 的“元评论”泄露到已发布的…
-
新的审计方法可检测开源AI模型中被移除的拒绝机制
研究人员开发了一种新颖的审计方法,用于检测开源AI模型检查点是否已被移除拒绝机制。这种双信号审计结合了参考锚定激活拒绝间隙和权重恢复能量度量。当应用于Qwen、DeepSeek-distilled Qwen、Llama和Gemma等模型注册表中273个检查点时,该审计能够以高精度区分公开的“已清除”检查点和良性微调。该方法识别出两种主要的失效模式:一种是逃避检测的欺骗性参考,另一种是检查点被训练到阈值之上但仍不安全的白盒攻击。
-
Hugging Face Hub 增强开放模型访问和评估功能
Hugging Face 已经为其 Hub 推出多项更新,包括对 huggingface_hub 库的持续集成,以简化下载和管理用于本地推理的开放权重模型的过程。此外,模型页面现在显著展示来自各种基准测试的全面评估结果,帮助用户选择在性能和硬件限制之间取得平衡的模型。该平台还重点介绍了 Strix,一个流行的、可用于 AI 驱动的渗透测试的开源工具,该工具可以本地运行以增强数据隐私。