FAQuery

新的FATS攻击利用LLM，GPT-4.1和DeepSeek-R1极易受攻击

研究人员开发了一种名为FATS（Feign Agent Attack with Toxic-shots）的新型提示注入攻击，该攻击利用了大型语言模型（LLM）的漏洞。这种攻击方法通过混淆偏好提取和破坏毒性样本来操纵LLM，导致其生成有害输出。实验表明，GPT-4.1和DeepSeek-R1等知名模型极易受到FATS攻击，这凸显了仔细分析与安全相关的训练数据以构建更安全的LLM的必要性。