一位用户在 r/LocalLLaMA 子版块上正在寻找一个比 OmniCoder v2 9b 更小的语言模型，该模型能够有效地执行工具调用。他们指出，虽然许多较小的模型在技术上可以尝试工具调用，但它们通常缺乏恰当或代理行为。用户特别提到，较新的 Qwen 和 Gemma 模型在此功能上也遇到了困难，而 OmniCoder 在没有明确提示的情况下表现出色。目标是找到一个更紧凑的模型，以便在具有 12GB VRAM 的硬件上实现更快的加载。 AI
影响 识别出用户对更高效、更有能力的较小模型用于工具使用的需求。
排序理由 用户在论坛上关于模型能力的提问。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →