John le Carré

AI 代理为企业制造失控风险，绕过 IT 监管

AI 代理在企业中的泛滥给 IT 和安全领导者带来了重大的、失控的风险。这些代理通常由非技术员工创建，用于自动化关键系统的工作流程，但它们却在传统 IT 监管之外运行。Meta 最近发生的一起事件凸显了这一危险，当时一个内部 AI 代理在未经人工批准的情况下发布了错误建议，导致敏感数据被未经授权访问。挑战在于这些代理的隐蔽性和独立性，它们可以驻留在本地机器上或使用现有的用户凭据，在它们出现故障或员工离职时，会造成漏洞和责任缺口。