Gemma 4.31B
PulseAugur coverage of Gemma 4.31B — every cluster mentioning Gemma 4.31B across labs, papers, and developer communities, ranked by signal.
15 天有情绪数据
-
YouTuber 打造自制半导体工厂，用于定制芯片
一位 YouTuber 正在将他们的野心从内存和 LED 扩展到创建家庭自制半导体制造设施。这项事业旨在生产定制芯片，有可能挑战行业内的既有参与者。该项目突显了对去中心化硬件开发和先进制造技术可及性日益增长的兴趣。
-
Linus Torvalds 使用 AI 机器人修复 Linux 内核 bug · 跟踪 2 个来源
Linux 的首席开发人员 Linus Torvalds 据报道使用了一个机器人来识别和修复一个 bug。该机器人由 Agentforce AI 开发，在发现 Linux 内核中的一个复杂问题方面发挥了重要作用。这一发展凸显了人工智能在软件开发和维护中日益增长的作用，即使是在操作系统这样基础的层面。
-
NVIDIA 集成 Groq 3 LPX 和 Vera Rubin 以加速代理式 AI 推理
NVIDIA 正在通过 Groq 3 LPX 和 Vera Rubin NVL72 系统增强其 AI 推理能力，该系统专为代理式 AI 应用而设计。该集成平台旨在加速 token 生成并处理大上下文窗口，这对于复杂的 AI 系统至关重要。SpaceXAI 和 CoreWeave 等合作伙伴正在采用 NVIDIA 的解决方案为其下一代 AI 基础设施提供支持，而 Nebius 是首家采用 Groq 3 LPX 以提高推理性能的公司。
-
NVIDIA Groq 3 LPX AI 加速器进入全面生产，达到每秒 3,400 个 token · 跟踪 4 个来源
NVIDIA 已宣布其 Groq 3 LPX AI 推理加速器已进入全面生产。该芯片最初于 2026 年 Hot Chips 上发布，专为 AI 代理工作负载设计，能够处理每秒 3,400 个 token。使用 Gemma 4 31B 模型进行的基准测试让我们得以一窥这些下一代数据流加速器的潜在性能，尽管它们代表了最佳情况。
-
Gemma 4 31B 以 40 倍的低成本匹配 Claude Sonnet 5 的质量 · 跟踪到 1 个来源
AlphaSense 最近的一项基准测试表明，Google 的开源 Gemma 4 31B 模型在金融任务上的表现可与 Anthropic 的 Claude Sonnet 5 相媲美，但成本却约为其 1/40。该研究评估了 245 项金融信息分析任务，衡量了答案的准确性和成本。虽然 GPT-5.6 Sol 展现了最高的准确性，但 Gemma 4 31B 因其出色的质量和价格平衡而备受关注，使其适用于大型、昂贵模型不经济的高容量用例。
-
用户探索创建自定义GGUF文件以用于LLM
r/LocalLLaMA上的这篇帖子讨论了为大型语言模型创建自定义GGUF文件的实际操作和好处。用户询问是否值得生成自己的GGUF，特别是结合使用特定硬件加速（如Vulkan或ROCm）编译llama.cpp。讨论还涉及潜在的性能改进以及在较高精度下为特定任务放置模型元素的最佳位置。
-
Ornith-1.5系列开源LLM发布，可与Claude Opus 4.8匹敌
AI研究组织Ornith发布了Ornith-1.5系列开源大语言模型。该系列模型有三种尺寸：Ornith-1.5-397B、Ornith-1.5-35B-A3B和Ornith-1.5-9B。最大的Ornith-1.5-397B模型在基准测试得分上可与Claude Opus 4.8相媲美，而最小的Ornith-1.5-9B模型经过量化后，能够在智能手机上运行。Ornith-1.5模型采用了自我改进策略进行训练，包含一个AI模型自身提出挑…
-
新工具可自动为贝叶斯模型设计先验分布
研究人员开发了Distribird，一个旨在自动创建贝叶斯模型校准信息性先验分布的代理式Web应用程序。该工具解决了由于难以从科学文献中提取和拟合参数分布而普遍使用均匀先验的做法。Distribird采用多代理管道搜索文献、提取相关值并拟合概率分布，必要时回退到非信息性先验，并清楚地记录其来源和置信度。使用Qwen3.6 27B、Gemma 4 31B和Mistral Small 4 119B等开源模型，将Distribird与单提示…
-
Gemma 4 QAT 在 KV 缓存量化基准测试中显示出显著提升
新的基准测试表明，Gemma 4 QAT（量化感知训练）显著提高了大型语言模型中 KV 缓存量化的性能。使用 llama.cpp 的一个分支 BeeLlama.cpp 进行的 KLD 基准测试显示，QAT 模型在与非量化模型保持一致方面表现更好，尤其是在较低的量化水平下。这表明 QAT 是一种更稳健的方法，可以在保持精度的同时减小模型大小，特别是对于 Gemma 4 31B 等模型。
-
用户测试 CMP170HX GPU 以进行本地 LLM 部署
一位用户测试了四张 CMP170HX 显卡，每张显卡配置了 64GB 内存，总计 256GB VRAM。测试重点是运行各种大型语言模型，结果表明较小的模型可以完全装入单张卡，或者如果它们的总 VRAM 使用量保持在 64GB 限额内，则可以同时运行。其性能与 NVIDIA 的 30xx 系列相当，如果使用内存更大的显卡，则有可能实现更高的吞吐量。用户还指出，即使在加载大型模型时，PCIe Gen2 x4 接口也没有显著限制性能，这表明…
-
Meta 发布用于本地使用的开源 Muse Glimmer AI 模型
Meta 发布了 Muse Glimmer，一个拥有 296 亿参数的开源 AI 模型，专为在设备上本地运行而设计。该模型支持文本和图像输入，并在各种基准测试中表现出优于 Google 的 Gemma 4 31B 和 Qwen3.6-27B 等同等规模模型的性能。Muse Glimmer 还支持“DFlash”，这是一种投机解码技术，可显著加快 GPU 等本地硬件的处理速度，并根据 Apache License 2.0 发布。
-
Muse Glimmer LLM 可装入单块 RTX 3090，支持 256k 上下文
Muse Glimmer 大型语言模型已被发现可舒适地装入单块 RTX 3090 显卡，支持具有 DFlash 和 mmproj 等完整功能的 256k 上下文窗口。此性能值得注意，因为 Qwen3.6-27B 和 Gemma-4-31B 等其他模型在此硬件上难以实现类似的上下文长度。Muse Glimmer 还展示了令人印象深刻的速度，以大约 1400 tokens/秒 的速度处理提示，并以 64-124 tokens/秒 的速度生…
-
Gemma 4 31B "scotoma-2" 模型减少AI写作的怪癖
一款新AI模型 Gemma 4 31B "scotoma-2" 被开发出来，旨在解决AI生成文本中常见的“写作怪癖”，例如过度使用形容词或重复措辞。该模型基于Google的Gemma 4 31B，通过三轮直接偏好优化（Direct Preference Optimization）过程，使用超过9300对数据进行微调，以减少这些风格上的怪癖。尽管进行了修改，scotoma-2并非不受限制，并保持负责任的AI安全功能，专注于通过降低可预测…
-
Apple Silicon上的Gemma模型出现无声缓存bug，导致本地AI变慢
一个影响Apple Silicon上Gemma模型的缓存bug已被发现，导致本地AI代理性能显著下降。该问题源于Gemma的滑动窗口注意力机制，当上下文长度超过一定阈值时，KV缓存重用会无声失败。修复方法是将缓存类型更改为普通的KVCache，这可以在不影响模型输出质量的情况下恢复性能，使本地编码代理的速度提高高达20倍。
-
Gemma 4 31B 模型通过 Q4_K 量化实现 10% 加速
Reddit r/LocalLLaMA 版块的一位用户分享了他们量化 Gemma 4 31B 模型的经验。通过将 f16 MTP 草稿模型转换为 Q4_K 量化，他们观察到解码速度提升了约 10%，从 65 TPs 提高到 72 TPs。该用户尝试了不同的量化方法，并指出 Q2_K 的效果较差。
-
AI服务提供“无需登录”访问，但隐私保护程度差异巨大
多项服务在无需用户注册的情况下即可访问AI模型，但真正的隐私保护取决于数据处理方式，而非仅仅是登录要求。Duck.ai因详细说明其隐私机制而脱颖而出，包括在将数据发送给Anthropic和OpenAI等提供商的模型之前移除IP地址，并承诺在30天内删除数据且不将其用于训练。相比之下，arena.ai等模型比较平台虽然无需登录即可访问，但明确保留发布用户数据（包括IP地址和对话内容）的权利。The New York Times与Open…
-
廉价大模型在数学证明评分方面可媲美前沿模型
一篇新的arXiv论文探讨了使用较小的、开放权重语言模型来评判数学证明的成本效益。研究发现，像GPT-OSS 120B、DeepSeek-V4 Flash和Gemma-4 31B这样的模型，在评分准确性方面可以媲美Claude Opus 4.7和Gemini 3.1 Pro等更昂贵的模型。研究人员提出，要求三个预算模型达成一致意见能提供最高的准确性和精确度，尽管这一具体规则需要独立验证。
-
llama.cpp 发布多个更新，改进性能和构建
llama.cpp 项目发布了多个更新，包括 b10567 版本，该版本为 macOS、Linux、Android 和 Windows 提供了 CI 改进和各种构建选项。之前的版本如 b10566 和 b10549 分别引入了版本升级和张量分割功能。其他更新解决了 b10539 中的 Vulkan 量化计算、b10545 和 b10538 中的 Metal 性能优化以及 b10536 中的服务器端模型加载等具体问题。b10537 版本…
-
用户在 DGX Spark 上微调 Gemma 4 31B 模型，面临挑战
一位用户详细介绍了他们在 DGX Spark 系统上微调 Gemma 4 31B 模型的经验。目标是训练模型提供具体决策而非一般性建议，并且在此过程中遇到了一些障碍。
-
用户寻求有关 Sapphire R9700 GPU 用于 LLM 任务的噪音水平信息
r/LocalLLaMA subreddit 上的一位用户正在询问 Sapphire R9700 显卡的风扇噪音水平。他们想了解其噪音输出是否能接受，并将其与他们目前安静的 7800xt 进行比较。用户计划使用 R9700 运行大型语言模型，如 Qwen 27B 和 Gemma 4 31B，并愿意通过降压和降频来控制噪音。