English(EN) Arabic Safety Alignment as Selective Refusal: An Empirical Study of SFT, DPO, and Guard Calibration

使用SFT、DPO和守卫校准研究阿拉伯语LLM安全对齐

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-01 04:00

一篇新发表在arXiv上的研究探讨了改进阿拉伯语大型语言模型安全对齐的方法。研究人员评估了五种支持阿拉伯语的模型上的监督微调（SFT）、直接偏好优化（DPO）和守卫校准技术。研究结果表明，虽然仅拒绝的SFT可能导致过于宽泛的拒绝，但特定的混合SFT配置可以实现高有害提示拒绝率，同时保持可接受的良性提示拒绝率。DPO和推理守卫在不同模型上显示出不同的效果，表明需要模型特定的优化，而不是一刀切的方法。研究还指出，现代标准阿拉伯语的改进并未完全转移到Arabizi。 AI

影响为优化阿拉伯语LLM的安全对齐提供了见解，可能提高其可靠性并减少有害输出。

排序理由学术论文，详细介绍了LLM安全对齐技术的实证研究。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 24 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 学术论文，详细介绍了LLM安全对齐技术的实证研究。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Mohamad Zbib, Ammar Mohanna · 2026-09-01 04:00

阿拉伯语安全对齐作为选择性拒绝：SFT、DPO和Guard校准的实证研究

arXiv:2608.29378v1 Announce Type: cross Abstract: Arabic large language models must refuse harmful prompts without over-refusing benign or sensitive prompts, yet a single refusal rate hides this trade-off. We evaluate it using benign refusal B and harmful-prompt refusal H, where …

本文如何被排名

报道来源 [1]

阿拉伯语安全对齐作为选择性拒绝：SFT、DPO和Guard校准的实证研究

相关实体

相关话题