ASCII Attack

新的“ASCII 攻击”绕过了 LLM 安全对齐

研究人员开发了一种名为“ASCII 攻击”的新方法来绕过大型语言模型的安全对齐。该技术将有害请求嵌入 ASCII 艺术中，将其视为艺术评论，以引出通常会被拒绝的操作细节。在十一个模型和八个危害主题的测试中，“ASCII 攻击”成功绕过了安全措施 62% 的时间，其中一个模型有 93% 的时间容易受到攻击。这种攻击的有效性似乎更多地取决于模型的架构，而不是有害请求的具体主题，并且随着模型规模的增加，其有效性并未降低。