研究人员开发了一个新颖的、使用 zk-SNARKs 的隐私保护框架，用于验证大语言模型 (LLM) 部署后的完整性。该系统采用对抗性探测来检测在标准输出中可能不明显但微妙的行为变化，即使模型权重是专有的。该框架提供各种探测类型，包括基于 token 的探测、基于 embedding 的探测和压力探测，以平衡访问要求和敏感性。实验表明，即使在黑盒设置下，基于 token 的探测也有效，并且 zk-SNARK 工作流程被证明对于扩展探测集是实用的。 AI
影响 引入了一种部署后审计大语言模型 (LLM) 的方法，增强了人工智能治理和信任。
排序理由 该集群包含一篇详细介绍大语言模型 (LLM) 验证新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
