English(EN) Identifying Harm in Personalized, Generative AI Systems Requires User-Centered Auditing at the Interaction Level

新论文呼吁对个性化AI危害进行以用户为中心的审计

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-18 04:00

一份新的立场文件认为，当前审计AI系统的方法不足以识别个性化生成式AI中的危害。作者认为，现有的方法，通常依赖于静态评估和危害的聚合定义，未能捕捉到随时间变化的系统中危害的动态和用户特定性质。他们提议转向以用户和社区为中心的审计流程，承认危害不断演变和多元化的理解，特别是对边缘化用户而言。 AI

影响强调了改进AI审计实践的必要性，以应对个性化和自适应生成系统带来的独特挑战。

排序理由该集群包含一篇关于AI安全和审计方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Hannah Cha · 2026-08-18 04:00

识别个性化生成式AI系统中的危害需要以用户为中心的交互层面审计

arXiv:2608.14692v1 Announce Type: cross Abstract: Personalized, generative AI systems increasingly adapt their behavior to individual users over time, fundamentally changing model behavior. While existing auditing approaches have been effective at surfacing harms in non-personali…