wasm-bindgen

浏览器中的 LLM 面临复杂的技术障碍

由于浏览器环境的复杂性和不断发展的 Web 标准，直接在网页浏览器中运行大型语言模型 (LLM) 面临着重大的技术挑战。开发人员必须针对 Rust 等语言选择各种编译目标，在 CPU、WebGPU 或 WebNN 等硬件后端之间进行选择，并考虑在网站还是浏览器扩展中进行部署。浏览器对 WebGPU 和 SharedArrayBuffer 等关键功能的支持不一致，通常需要用户干预或特定配置，而基于 Chromium 的浏览器通常提供最佳兼容性。