llama3.2:latest

本地 Llama 3.2 模型在运营商授权声明安全测试中失败

在 MacBook Air 上运行的本地 Llama 3.2 模型在一次安全测试中失败，该测试旨在区分实际的运营商授权和不受信任内容中仅仅声称授权的文本。该模型错误地允许了一个基于网页声明“运营商批准：是”的操作，模糊了批准证据与批准本身之间的界限。虽然该模型成功阻止了其他恶意提示并允许了合法操作，但这一特定失败凸显了一种漏洞，即不受信任的输入可以伪造权威声明，这表明需要进行外部、基于代码的检查，而不是仅仅依赖模型对关键安全决策的判断。