一项名为 GreenRoute 的新服务已被开发出来,用于智能路由 AI 请求,确定它们是可以在用户设备本地处理,还是必须发送到云端。该系统对任务进行分类,检查设备能力,然后通过 Ollama 将提示定向到 Llama 3.2 1B 等本地模型,或定向到 Google Gemini 等云服务,并提供决策解释。目标是优化资源使用并估算与全云方法相比的成本节省。 AI
影响 该工具可以通过实现更多的设备端 AI 处理来降低云成本并提高隐私。
排序理由 该项目描述了一个路由 AI 请求的新软件工具,而不是一个核心 AI 模型发布或研究。
- Apple Inc.
- Claude 3
- Gemini
- GPT-4
- GreenRoute
- Linux
- Llama 3.2 1B
- MacBook Pro
- Microsoft
- Microsoft Windows
- Ollama
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →