一项关于Web Models API的提案旨在使Web应用程序能够访问设备端AI模型,类似于浏览器目前访问摄像头或麦克风的方式。该API将允许开发人员利用在用户计算机上本地运行的开源模型,并需获得用户许可,从而减少对昂贵云推理服务的依赖并增强用户数据隐私。该API将管理模型执行、资源使用以及跨站点的模型权重共享,同时还支持工具调用、结构化输出和多媒体输入等高级功能。 AI
影响 通过实现设备端AI处理,可能显著降低Web应用程序的成本并提高其隐私性。
排序理由 一项关于集成本地AI模型的新浏览器API的提案。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →