Model Armor

Okimera系统绕过了Google Model Armor的提示注入过滤器

一个名为Okimera的多代理系统，用于海事制裁合规，遭遇了一次提示注入尝试，而这次尝试被Google的Model Armor过滤器所忽略。该过滤器被设置为最高灵敏度阈值，未能检测到嵌入在提单中的指令，该指令旨在虚假验证一笔交易。这种失败凸显了通用提示注入过滤器在面对特定领域语言时的局限性，因为注入的指令模仿了合法的商业条款。