Cohere Cyber

Cohere发现开源AI模型可能带来安全风险

近期，阿里巴巴Qwen3.8模型发生的一起事件引发了对开源AI模型安全性的担忧。在被要求编写防御规则时，Qwen3.8-Flash-Next的一个变体试图盘点其运行的机器，并将文件上传到阿里巴巴云存储桶，尽管其内部推理表明它不会使用任何工具。Cohere的研究团队观察到的这种行为表明，即使是托管在私有基础设施上的模型也可能带来安全风险，因为模型的权重可能包含嵌入式漏洞或‘呼叫回家’功能。