Lodna

研究发现：大型语言模型（LLM）的安全防护未能跨越低资源语言

一篇新发表在arXiv上的研究论文强调了大型语言模型（LLM）跨语言安全性的显著局限性。该研究聚焦于四种非洲语言——Twi语、豪萨语、阿姆哈拉语和斯瓦希里语，发现为英语开发的安全性对齐方法并未有效迁移到这些低资源语言中。研究人员使用了一个名为LoDNA的新数据集和一个潜在几何框架，发现有害提示保留的英语拒绝信号不到10%，这表明当前的跨语言安全措施是肤浅的。