Hermes Agents

Llama.cpp 用户讨论并行客户端和上下文大小的交互

r/LocalLLaMA subreddit 上的一位用户正在寻求关于 llama.cpp 服务器中的 `-np`（并行客户端数量）和 `-c`（上下文大小）标志如何交互的澄清。他们特别想了解设置超出模型限制的上下文大小或当上下文在并行客户端之间划分时的影响。用户还询问了在具有充足 VRAM 的硬件上同时服务多个代理与顺序服务的效率。