研究人员正在调查大型语言模型（LLM）拒绝的复杂性，探讨拒绝是否是一个独立的概念，还是与其他训练数据元素交织在一起。对小型、开源指令模型的实验表明，拒绝机制可以被分离并独立引导，以应对不同类别的潜在危害。该团队正在开发一个危害来源分类法，旨在更好地理解和分类大型语言模型中的拒绝行为。 AI
影响 这项研究可能导致大型语言模型中更细致、更可控的拒绝行为，从而提高安全性和对齐性。
排序理由 研究论文，详细介绍了关于大型语言模型拒绝机制的实验。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
