Groth16

新的 zk-SNARK 框架通过对抗性探测验证大语言模型 (LLM) 的完整性

研究人员开发了一个新颖的、使用 zk-SNARKs 的隐私保护框架，用于验证大语言模型 (LLM) 部署后的完整性。该系统采用对抗性探测来检测在标准输出中可能不明显但微妙的行为变化，即使模型权重是专有的。该框架提供各种探测类型，包括基于 token 的探测、基于 embedding 的探测和压力探测，以平衡访问要求和敏感性。实验表明，即使在黑盒设置下，基于 token 的探测也有效，并且 zk-SNARK 工作流程被证明对于扩展探测集是实用的。