Internal Compliance Score

新研究发现：AI合规检测器存在“规则盲区”

一篇新近发表在arXiv上的研究论文详细介绍了一个当前AI合规检测器存在的重大缺陷，该现象被称为“规则盲区”。研究表明，这些检测器常常无法准确评估监管合规性，因为它们的判断并非真正依赖于既定规则，而是依赖于输入的表面特征。这意味着，修改或移除相关规则对检测器的准确性几乎没有影响。研究人员提出了一种名为内部合规分数（ICS）的新型无训练审计方法来评估这些检测器，但该方法在超越简单模型方面也面临挑战。