PulseAugur
中
实时 09:07:58
English(EN) Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations

新框架可在不访问用户数据的情况下实现 LLM 漂移检测

作者 PulseAugur 编辑部 · [1 个来源] ·

一个名为 ProxyDrift 的新框架已被开发出来，用于解决在不直接访问敏感用户数据的情况下监控和适应大规模 LLM 应用的挑战。该系统利用非 PII（个人身份信息）代理表示，这是从基于 LLM 的用户交互分类中派生出的结构化描述符，来检测和衡量数据漂移。ProxyDrift 还支持构建和刷新离线评估集，确保在保护用户隐私的同时进行持续监控和有针对性的合成数据生成。实验表明，合成查询与真实查询具有很强的一致性和不可区分性，并且与生产流量高度一致。 AI

影响 能够在不损害用户隐私的情况下，对大规模 LLM 部署进行持续监控和适应。

排序理由 该集群包含一篇详细介绍 LLM 应用新框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新框架可在不访问用户数据的情况下实现 LLM 漂移检测

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Michael Levit, Josh Ledgard, Haoyu Dong, Vishwas Suryanarayanan, Eyal Kolman, Sharon Tan, Qiang Gan, Vishal Chowdhary ·

    面向大规模LLM应用，通过代理表示实现隐私保护的数据漂移检测与恢复

    arXiv:2608.08245v1 Announce Type: cross Abstract: LLM applications deployed at scale face a fundamental challenge: privacy constraints prevent direct inspection of user interactions, making it difficult to obtain any representative evaluation dataset or to track the ongoing evolu…

相关实体

相关话题