实体
Modelfile
Modelfile
PulseAugur coverage of Modelfile — every cluster mentioning Modelfile across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Ollama 的上下文长度默认设置令人困惑，并且会默默地截断对话
Ollama 的默认上下文长度在不同配置中的文档记录和应用不一致。文档中至少显示了三个相互冲突的默认值：Modelfile 参考中的 2048，基于可用 VRAM 的可变长度（4k、32k、256k），以及嵌入在模型镜像本身中的值。最具体的设置，例如在模型 Modelfile 或单个请求的选项中定义的设置，会覆盖更广泛的默认设置，如环境变量或基于 VRAM 的分层。一个严重的问题是，当提示超过有效的上下文窗口时，Ollama 会默默地…
-
Ollama create：深入了解构建自定义 LLM
Ollama 的 `create` 命令充当模型编译器，接收 Modelfile 来构建自定义语言模型。它解析基础模型，将指令处理成内容寻址层，并生成清单。这种基于层的处理方式可以实现高效重建，因为只需要重新处理更改的参数。该命令支持各种自定义标志，包括指定 Modelfile、将模型量化为 Q8_0 或 Q4_K 等格式，以及用于 Safetensors 的实验性功能。