Generative AI systems
PulseAugur coverage of Generative AI systems — every cluster mentioning Generative AI systems across labs, papers, and developer communities, ranked by signal.
-
Amnesty International：生成式AI的网络抓取侵犯人权
Amnesty International 发表了一份强硬声明，谴责那些利用非法网络抓取技术的生成式AI系统。该组织声称，这些做法通过侵犯隐私、助长歧视和威胁言论自由，违反了国际人权法。Amnesty International呼吁重新评估此类AI技术的设计、开发和部署。
-
国际特赦组织警告人工智能数据管道侵犯隐私
国际特赦组织发布了一份报告，强调了驱动生成式人工智能系统的数据管道存在重大的隐私担忧。报告认为，这些数据管道的构建本身就建立在大规模侵犯隐私的基础上。这引发了对当前人工智能发展实践的伦理影响和潜在社会影响的警报。
-
国际特赦组织呼吁禁止生成式人工智能，因其侵犯人权
国际特赦组织发布了一份简报，详细说明了使用通过网络抓取获得的数据构建的独立生成式人工智能系统如何违反国际人权法。报告认为，这些系统本质上涉及大规模侵犯隐私，并且与人权标准根本不兼容。因此，国际特赦组织主张禁止此类人工智能系统。
-
国际特赦组织：AI数据抓取侵犯隐私，加剧偏见
国际特赦组织对数据抓取系统表示担忧，这些系统在未经用户同意的情况下提取了数十亿公开在线帖子的信息，可能侵犯隐私权。该组织还强调，使用这些数据训练的生成式AI系统可能会延续种族和性别偏见，反映了训练数据集中存在的社会刻板印象。这些问题凸显了AI发展与基本人权（尤其是隐私和非歧视）之间的冲突。
-
新的攻击方法侵犯了AI安全分类器的隐私
研究人员开发了一种新的方法来攻击生成式AI系统中使用的安全分类器的隐私。这些分类器在处理诸如自残讨论等敏感数据时被训练，容易受到成员推断攻击（MIA）。新技术针对分类器置信度较低的样本，揭示了模型可能会记住模糊的训练数据。该方法成功恢复了19%的用户痛苦对话，误报率为5%，显著优于现有的MIA方法。