实体
ornith:9b
ornith:9b
PulseAugur coverage of ornith:9b — every cluster mentioning ornith:9b across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
LLM 上下文基准测试：预填充速度和 KV 缓存对代理最重要
对 13 种不同的大型语言模型在 65K 至 128K 令牌的上下文长度下进行的基准测试显示，对于代理工作负载而言，提示处理（预填充）速度是最关键的因素，而不是令牌生成速度。使用 llama.cpp 在 RX 7900 XT GPU 上进行的测试表明，KV 缓存配置和模型架构（特别是 MoE 模型）显著影响了性能。结果表明，优化预填充效率是需要广泛上下文处理的应用程序的关键。
-
用户分享本地AI堆栈，包含Ollama、Gemma和Qwen模型
一位用户正在详细介绍他们的个人AI堆栈，其中包括用于运行本地大型语言模型的Ollama和Hermes。他们目前正在结合使用 `gemma4:e4b-mlx` 和 `qwen3.5:9b-mlx` 模型，为Zed代码编辑器中的Python开发代理提供支持。用户还提到正在测试 `ornith:9b` 作为代理编码任务的下一个潜在模型。