llama.cpp 服务器新增原生工具以实现类似代理的功能

llama.cpp 服务器现已包含一套工具的实验性原生支持，使其能够充当一个基本的代理容器。这些工具，包括文件操作和 shell 命令执行，可以通过命令行标志启用。然而，目前的实现缺乏安全沙箱，要求用户谨慎使用暴露的功能。 AI

影响 直接在 llama.cpp 服务器中启用基本的类似代理的功能，减少了对常见任务的外部包装器的需求。

排序理由 文章描述了为现有软件产品 llama.cpp 服务器添加的新功能，使其能够执行类似代理的任务。

在 r/LocalLLaMA 阅读 →

• apply_diff
• edit_file
• exec_shell
• exec_shell_command
• file_glob_search
• get_datetime
• grep_search
• llama.cpp
• read_file

• 产品
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →