PulseAugur
中
实时 10:15:57
实体 The Zero-Dollar Dev

The Zero-Dollar Dev

PulseAugur coverage of The Zero-Dollar Dev — every cluster mentioning The Zero-Dollar Dev across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_369898 ·

    Ollama 静默 CPU 回退详解:检测与预防

    来自 The Zero-Dollar Dev 的技术指南解释了当 GPU VRAM 不足时,Ollama 如何静默地回退到使用 CPU 进行 LLM 推理。这是因为 Ollama 的底层运行器 llama.cpp 不会抛出错误,而是将模型层卸载到系统 RAM,从而急剧降低性能。该指南详细介绍了使用 `ollama ps` 或服务器日志检测此 CPU 回退的方法,并确定了三个触发因素:动态 KV 缓存增长、大的默认上下文窗口分配以及其他…