Smista AI 团队使用 Rig 和 Rust 开发了一个与提供商无关的 LLM 层。该层充当与各种 AI 模型(包括来自 Anthropic、OpenAI 和 Gemini 的模型)交互的通用网关。通过利用 Rig 的 `CompletionClient` trait,Smista AI 能够创建通用代理、集成内部工具并为用户和会话实现内存存储。 AI
影响 能够更轻松地在应用程序中集成和管理多个 LLM 提供商。
排序理由 文章描述了一个软件层(Smista AI)的开发,该层集成了现有的 LLM 提供商,而不是发布新的基础模型或重要的研究。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →