OmniCoder v2 9b

用户寻求更小的语言模型以实现有效的工具调用

一位用户在 r/LocalLLaMA 子版块上正在寻找一个比 OmniCoder v2 9b 更小的语言模型，该模型能够有效地执行工具调用。他们指出，虽然许多较小的模型在技术上可以尝试工具调用，但它们通常缺乏恰当或代理行为。用户特别提到，较新的 Qwen 和 Gemma 模型在此功能上也遇到了困难，而 OmniCoder 在没有明确提示的情况下表现出色。目标是找到一个更紧凑的模型，以便在具有 12GB VRAM 的硬件上实现更快的加载。