在本地运行大型语言模型本身并不能保证隐私，因为模型推理之外的许多进程都可能暴露用户数据。虽然模型权重和计算可能保留在用户的设备上，但关联的应用程序可以记录提示、发送遥测数据或存储聊天记录。此外，操作系统本身可能通过缓存、shell 历史记录或交换文件将数据写入磁盘，而云同步服务可能会无意中暴露本地数据。 AI
影响 强调本地 LLM 执行并不能自动确保数据隐私，敦促用户考虑更广泛的系统和应用程序级别的数据处理。
排序理由 该条目讨论了本地 LLM 推理的隐私影响，这是一种分析性观点，而非产品发布或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p>“It runs locally” means one thing precisely: during the forward pass, the tokens did not travel to a third party. That is a statement about a few hundred milliseconds in the middle of a system. Almost everything that determines whether your data is private happens outside that…