KZ-SafetyPrompts

新的哈萨克语提示数据集揭示LLM安全漏洞

研究人员开发了KZ-SafetyPrompts，这是一个旨在评估大型语言模型（LLM）在哈萨克语中安全性的新数据集。该数据集包含 5,717 个提示，涵盖暴力、仇恨言论和非法活动等十一个风险类别，并提供哈萨克语原文和英文翻译。使用 GPT-4o 进行的初步测试显示拒绝率为 28.2%，突显了在哈萨克语处理中存在的、在仅英语评估中不明显的特定安全漏洞。