Focus Technology的AI实验室最近发布的一篇论文显示，在请求中附加JSON Schema会导致开源模型完全无法调用工具。这个问题影响了七种不同的开源模型，当存在JSON Schema时，工具调用的抑制率高达100%。论文解释说，这是由于`response_format={"type":"json_schema"}`设置，它将Schema编译成一个token位掩码，在采样开始之前就有效地阻止了模型选择工具选项。 AI
影响 这一发现突显了某些开源模型在涉及JSON Schema时处理工具调用的一个关键缺陷，可能影响它们在复杂任务执行中的可靠性。
排序理由 研究论文详细介绍了开源模型的一个功能缺陷。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
