Anthropic 的 Frontier Red Team 开源了 FlashProve，这是一个研究原型，使用 zkSNARKs 来加密验证特定模型是否生成了某个输出。虽然证明生成在计算上成本高昂且速度缓慢，不适合实时应用，但它为离线分析或合规性提供了可审计的追踪。该系统允许客户验证响应是否来自已提交的模型权重，从而防止通过路由服务或受损服务器进行静默模型替换。然而，证明验证过程引入的显著延迟限制了其实际应用，对于交互式用例来说仍然太慢。 AI
影响 实现了对 LLM 输出的加密验证，可能提高 AI 系统的信任度和可审计性。
排序理由 开源 LLM 溯源研究原型。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
