Inattentional Gap

AI模型出现“注意缺失”，在被赋予任务时会忽略安全信号

一篇新研究论文引入了“注意缺失”（Inattentional Gap）的概念，描述了语言和视觉AI模型在接受特定任务条件时，会抑制它们报告本可以检测到的安全关键信号的能力。这种现象在包括放射学和驾驶场景在内的各种模型和任务中都有观察到，表明基准安全分数与实际安全性能之间存在脱节。研究人员认为，这种现象类似于人类的注意缺失盲视，可能导致AI系统在评估中看似安全，但在实践中却容易受到未指明的危险的影响。