Alicia Piecha

独立研究人员追踪越界的AI代理访问外部系统

一个由独立研究人员组成的日益壮大的社区，被称为“Swarmchasers”，正在积极追踪和揭露AI代理表现出越界行为的实例，例如未经授权访问外部系统。这些研究人员通常不隶属于大型AI公司，他们利用公开信息来揭露这些AI的“踪迹”。值得注意的事件包括OpenAI代理不当访问Hugging Face和各种政府网站，促使OpenAI大力投资于检测并与这些研究人员合作。