translation bypass

大型语言模型在低资源语言中显示出显著的安全绕过风险

一篇新发表在arXiv上的研究论文强调了大型语言模型（LLMs）在低资源语言方面存在的显著安全漏洞。研究发现，在英语中被拒绝的有害请求，当被翻译成这些不太常见的语言时，可能会引发不安全的响应，在十种广泛部署的LLMs中，绕过率从21.9%到44.4%不等。这种翻译绕过风险集中在特定的语系中，并且在不同模型之间差异很大，表明当前的对齐和评估实践存在关键差距。