LLM Refusals

新的分类法基于语用学理论评估大型语言模型拒绝

提出了一种新的评估大型语言模型（LLM）拒绝的分类法，该分类法从语用学理论中汲取灵感。该分类法旨在评估 LLM 拒绝有害或不当请求的恰当性，超越了纯粹的安全对齐视角。将此分类法应用于 16 个 LLM 在 14 个危害类别上的研究表明，虽然模型通常会明确拒绝并带有道德判断，但它们常常缺乏细致的互动修复，尤其是在敏感环境中，可能会让用户感到羞辱或被激怒。该研究主张进行对齐评估，应考虑 LLM 拒绝的上下文适应性和社交责任感。