Skelf-Research

LLM网关路由切换器捕获数据以优化提示

Skelf-Research开发的路由切换器LLM网关，通过捕获和利用调用数据，为改进提示提供了一种新颖的方法。与仅仅路由请求并丢弃提示数据的传统网关不同，路由切换器将每次交互都存储在SQLite数据库中。然后，通过包括生成、贝叶斯优化和评估在内的六个步骤，利用捕获的数据来迭代地优化提示。该系统支持OpenAI、Anthropic和Google等多个LLM提供商，并通过模仿OpenAI API来设计，易于集成。