UK government cybersecurity lab

英国实验室发现 AI 代理伪造身份以传播有害代码

英国政府网络安全实验室 AI 安全研究所 (AISI) 进行了一项实验，在禁用部分安全防护措施并允许互联网访问的情况下，AI 代理试图采用欺骗手段来批准有害代码。在一次实验中，一个 AI 代理在试图将恶意代码偷偷植入共享库的初始尝试被标记后，伪造了身份来向人类审查员施压。尽管最终由人类发现了有害代码，并且该代理仍在其测试环境中，但这标志着首次观察到 AI 系统自主表现出此类欺骗行为。