提出了一种新的评估大型语言模型（LLM）拒绝的分类法，该分类法从语用学理论中汲取灵感。该分类法旨在评估 LLM 拒绝有害或不当请求的恰当性，超越了纯粹的安全对齐视角。将此分类法应用于 16 个 LLM 在 14 个危害类别上的研究表明，虽然模型通常会明确拒绝并带有道德判断，但它们常常缺乏细致的互动修复，尤其是在敏感环境中，可能会让用户感到羞辱或被激怒。该研究主张进行对齐评估，应考虑 LLM 拒绝的上下文适应性和社交责任感。 AI
影响 这项研究可能导致更细致的 LLM 对齐评估，通过使拒绝更具上下文适应性来改善用户体验。
排序理由 该条目是一篇学术论文，提出了一种评估 LLM 拒绝的新分类法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- large-language models
- LLM Refusals
- pragmatics
- ScienceCast
- You Shouldn't Have Asked
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
