PulseAugur
实时 22:10:34
(CA) llama.cpp oom issue

llama.cpp 用户报告持续的内存不足错误

Reddit r/LocalLLaMA 子版块的一名用户在使用 llama.cpp 软件时遇到持续的内存不足 (OOM) 问题。该问题导致进程在使用 20-40 分钟后消耗越来越多的系统内存,最终被终止。该用户已尝试各种配置、构建甚至 Docker 镜像,但问题仍然存在,表明在特定使用模式下,软件可能存在内存泄漏或内存管理效率低下。 AI

影响 特定 LLM 实现的用户级别技术问题,不属于广泛的行业影响。

排序理由 论坛上的用户报告问题,而非正式发布或重大事件。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 (CA) · /u/TheTerrasque ·

    llama.cpp out of memory issue

    <!-- SC_OFF --><div class="md"><p>I'm having an issue with llama.cpp going OOM <em>(system ram, not vram)</em> after some time, roughly 20-40 minutes of active use. I'm now running it in a cgroup with about 20gb allocated to it, so at least it gets killed and restarted before it …