Ankit Gupta

研究发现AI容易被假阳性欺骗

密歇根州立大学的最新研究表明，人工智能系统很容易被欺骗，即使在经过海量数据集训练后，也会错误地识别模式。计算机科学工程师Ankit Gupta和同事Christoph Adami发现，一个神经网络在对数字生物进行分类并达到高准确率后，只需150次微小的代码更改就可能被欺骗产生假阳性。这种漏洞凸显了在人工智能应用中进行人工监督的关键必要性，尤其是在太空探索和医学诊断等敏感领域，以防止过度依赖可能存在缺陷的自动化决策。