Bonsai 2 9B

用户寻求使用Ollama、LangChain、CrewAI进行简单的本地代理设置

一位Reddit用户正在寻求关于在拥有24GB RAM和12GB VRAM的工作站上设置一个简单、本地的代理系统的建议。他们目前使用Pi Agent配合Bonsai 2 9B模型和SearXNG进行搜索，发现效果出奇地好，但对于大于9B的模型速度较慢。用户优先考虑简单性和速度，请求关于避免复杂提示或配置的模型和工具的建议，同时也考虑上下文压缩或子代理委托等选项，前提是它们保持简单。