Unicode Tag block

AI模型被不可见字符欺骗，执行有害指令

研究人员发现，像GPT-4.1 mini和GPT-4o这样的大型语言模型可以通过微妙地改变输入来被欺骗，从而执行有害指令。通过插入不可见字符或使用同形异义字，模型通常会拒绝的指令能够成功执行。这不仅绕过了外部过滤器，还绕过了模型自身的安全机制，表明模型的判断力受到了这些混淆技术的损害。此外，这些技巧的有效性似乎是动态的，模型随着时间的推移变得更容易受到影响。