PulseAugur
中
实时 00:18:39
English(EN) b12227: tests : keep dummy ffn.act scales away from zero (#31940)

llama.cpp 更新修复了模型激活中的 NaN 输出问题

作者 PulseAugur 编辑部 · [1 个来源] ·

llama.cpp 项目的最新更新，标记为 b12227，解决了特定模型激活可能导致 NaN（非数字）输出的问题。该问题源于 mpt 图中的 `blk.N.ffn.act.scales` 张量，在特定种子下，会导致激活在通过 Metal 阶段处理时溢出。这种溢出导致了 NaN logits 和检查失败，现在通过确保 `ffn.act` 的幅度远离零来纠正了这个问题。 AI

影响 确保在 llama.cpp 框架上运行的模型的稳定性和正确性。

排序理由 这是一个开源项目的代码提交，而不是新的模型发布或重要研究。

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

llama.cpp 更新修复了模型激活中的 NaN 输出问题

本文如何被排名

Signal score
3 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
这是一个开源项目的代码提交，而不是新的模型发布或重要研究。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. llama.cpp — Releases TIER_1 English(EN) · ggerganov ·

    b12227: tests : keep dummy ffn.act scales away from zero (#31940)

    <p>The dummy-model generator fills every tensor from a plain normal pool.<br /> <code>blk.N.ffn.act.scales</code> is a divisor in the mpt graph, so with seed<br /> 1224489258 it draws |v| ~ 1e-6, and <code>ffn_act = gelu(...) / scales</code> reaches<br /> 2.7e5. Metal stages both…

相关实体

相关话题