issue_refund

更小的 Llama3.2 1B 模型在代理测试中关键工具调用失败

一位开发者测试了将客户支持代理使用的语言模型从原始的 Llama3.2 3B 模型切换到显著更小的 Llama3.2 1B 模型所带来的影响。虽然较小模型的响应通常看起来还可以，但详细分析显示其在工具使用方面存在关键性故障，1B 模型经常传递错误的参数，甚至将工具的 schema 作为参数传递。性能也参差不齐，较小模型仅在成功时更快，在遇到错误时则更慢，这表明成本和可靠性之间可能存在权衡。