karthik-bommineni

Jevíčko 模型通过优化工具路由来降低 AI 代理成本

一种使用 System 1 模型 Jevíčko 作为工具路由器的新方法，旨在降低成本和延迟，同时不牺牲调查质量。这种方法与传统的代理不同，传统的代理在每个回合都会将整个工具目录发送给大型语言模型 (LLM)，随着工具数量的增加，这变得效率低下且成本高昂。通过将工具选择决策卸载给更快速、更便宜的 Jevíčko 模型，主 LLM 可以专注于参数填充和编写，从而可能提高代理性能和可扩展性。