Suraj Ranganath

新的强化学习攻击可规避多个AI文本检测器

研究人员开发了StealthRL，一个强化学习框架，旨在测试AI文本检测器在对抗性释义攻击下的鲁棒性。该方法训练了一个攻击策略来生成保留意义的改写，以规避包括RoBERTa、Fast-DetectGPT、Binoculars和MAGE在内的多个AI模型的检测。研究发现，这些自适应释义攻击显著降低了检测器的性能，并且可以迁移到训练期间未使用的检测器上，表明当前AI文本检测技术存在普遍性故障。