Ibiá

新的IBIA攻击通过内存注入操纵AI代理

研究人员开发了一种名为IBIA的新型攻击，该攻击利用个人AI代理的内存功能。通过精心制作的社交媒体内容将敌对者对齐的立场巧妙地注入代理的内存中，IBIA可以操纵代理的后续响应。该攻击结合了评论伪装、用于识别的水印和类别锚定，以确保注入的偏见得以保留和激活。虽然内存边界防御可以降低攻击的有效性，但它仍然显著影响代理行为，包括对GPT-5.5等高级模型的行为。