研究人员探索了低资源语言大语言模型(LLM)的安全对齐问题,以豪萨语为案例研究。他们开发了HausaSafeLM数据集,包含10,000个提示,并在Qwen2.5-7B-Instruct模型上测试了监督微调(SFT)和直接偏好优化(DPO)等对齐方法。研究发现,虽然基础模型可能因拒绝率而显得安全,但这通常反映了其有限的语言能力而非真正的对齐。SFT提高了拒绝的质量,尤其是在更大的数据集上,但DPO对语言流畅性产生了负面影响。研究结果表明,目前的对齐技术在处理代表性不足的语言的流畅拒绝方面存在困难,并且拒绝率本身是一个不可靠的安全指标。 AI
影响 强调了为代表性不足的语言量身定制安全对齐方法和评估指标的必要性,这可能会影响未来具有全球包容性的LLM开发。
排序理由 该集群包含详细介绍LLM安全对齐和文本生成忠实度研究的学术论文。
在 Hugging Face Daily Papers 阅读 →
- Diffusion language models
- GPT-2
- GPT-Neo
- Hugging Face
- QLoRA
- Table-to-text generation
- ToTTo
- Hausa
- HausaSafeLM
- PKU-SafeRLHF
- Qwen2.5-7B-Instruct
- West Africa
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →