Indexed Database API

通过 WebAssembly 在浏览器中运行大语言模型，实现隐私优先的 AI

开发人员现在可以使用 WebAssembly 直接在网页浏览器中运行量化的大语言模型（LLMs），无需依赖云端 API。这种方法通过将用户数据保留在本地来增强隐私，并降低了与外部 API 调用相关的成本和延迟。虽然由于浏览器的内存限制，它仅限于 TinyLlama 和 Mistral 7B 等较小的模型，但这种方法适用于笔记摘要、离线助手和基本代码生成等任务。