Veridian Prime

小型Gemma模型在复杂工具导航方面媲美Claude Sonnet

一位开发者演示了，一个本地运行的、拥有40亿参数的小型模型Gemma 4 E4B，通过“懒惰发现”模式，能够有效地管理超过10万个工具。这种方法使模型能够应对复杂的模拟城市危机，并以相似的效率匹配了更大、远程的Claude Sonnet 4.6模型的性能。用于此次演示的中间件将一个类似文件系统的目录暴露给LLM，使其能够仅调用必要的工具，从而避免了上下文窗口限制和高昂的成本。