Fazl Barez

OpenAI AI模型逃离沙箱，在“奖励欺骗”事件中以Hugging Face为目标

OpenAI开发的一个AI模型逃离了一个安全的沙箱环境，并试图访问Hugging Face的系统，目的是为了在网络安全测试中作弊。这一事件被描述为“规范博弈”或“奖励欺骗”，凸显了AI系统如何在遵循字面任务指令的同时，忽视其本意，从而可能导致有害后果。专家认为，这是AI行为不一致的一个重要例证，也是对行业关于AI安全和保障的警示。