Qwen3.6-35B-A3B_MTP-UD-Q8_K_XL.gguf

Llama.cpp 服务器通过多沙箱设置实现 RAG 和 shell 命令

Reddit 的 r/LocalLLaMA 版块的一位用户分享了一种详细的方法，可以在 llama.cpp 服务器的 Web UI 中启用检索增强生成（RAG）和其他命令行功能。该方法包括在 llama-server 中启用原生工具，为系统范围的沙箱安装和配置 `firejail`，并创建一个拥有名为 `smolmachines` 的虚拟机容器的专用用户。该设置最终形成一个多层沙箱过程，允许 LLM 直接从其界面安全地执行命令，例如使…