Gabriel Lars Sabadin

研究发现：人工智能安全系统因关注词语而非意图而失败

一篇新的arXiv论文认为，人工智能模型的自动化安全系统常常失败，因为它们关注的是词汇内容，而不是信息的实际行为或意图。研究强调了这些系统如何不成比例地标记非洲裔美国人英语和阿拉伯语等语言的内容，同时未能准确评估低资源语言中的危害。作者提出了一个新的评估协议，以更好地衡量这些差异，并证明包括多语言防护模型在内的当前系统，在区分不同语言中有害行为和无害形式方面，未能达到母语者的准确性。