Web Models API

Web Models API提案旨在实现浏览器中的设备端AI

一项关于Web Models API的提案旨在使Web应用程序能够访问设备端AI模型，类似于浏览器目前访问摄像头或麦克风的方式。该API将允许开发人员利用在用户计算机上本地运行的开源模型，并需获得用户许可，从而减少对昂贵云推理服务的依赖并增强用户数据隐私。该API将管理模型执行、资源使用以及跨站点的模型权重共享，同时还支持工具调用、结构化输出和多媒体输入等高级功能。