Apple发布了用于Python的Foundation Models SDK,支持直接访问其本地Apple Intelligence模型。这个在GitHub上引起广泛关注的Python库允许模型直接加载到进程中,并在Apple Silicon上运行推理。虽然存在兼容OpenAI的包装器,但该SDK缺乏对Hermes等基于Python的代理的原生支持,而这些代理可以从其本地推理和速率限制功能中受益。 AI
影响 该SDK通过提供对本地智能模型的直接访问,有可能简化在Apple设备上开发AI驱动的应用程序。
排序理由 该项目讨论了一个用于集成AI模型的软件开发工具包(SDK),属于工具类别。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →