PulseAugur
中
实时 04:42:24
English(EN) Clustering Unsupervised Representations as Defense against Poisoning Attacks on Speech Commands Classification System

新型防御措施过滤语音命令系统中的中毒数据

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种新颖的防御机制，以抵御针对语音命令分类系统的数据中毒攻击。所提出的方法利用 DINO 进行无监督学习来生成训练数据的表示，然后进行 K-means 和 LDA 聚类。通过仅保留每个聚类中最常标记的语句，该系统有效地过滤了中毒数据，在 10% 中毒数据的测试中，将攻击成功率从近 100% 显著降低到仅 0.25%。 AI

影响 这项研究提供了一种有前景的技术，可以增强 AI 模型对对抗性数据操纵的鲁棒性，这对于安全的语音命令系统至关重要。

排序理由 学术论文，详细介绍了防御 AI 系统中数据中毒攻击的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新型防御措施过滤语音命令系统中的中毒数据

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Thomas Thebaud, Sonal Joshi, Henry Li, Martin Sustek, Jesus Villalba, Sanjeev Khudanpur, Najim Dehak ·

    聚类无监督表示作为语音命令分类系统投毒攻击的防御手段

    arXiv:2606.28953v1 Announce Type: cross Abstract: Poisoning attacks entail attackers intentionally tampering with training data. In this paper, we consider a dirty-label poisoning attack scenario on a speech commands classification system. The threat model assumes that certain ut…

相关实体

相关话题