knowledge-based refusal

新论文揭示，LLM的拒绝行为在不同模型和设置下存在不一致性

两篇新研究论文探讨了大语言模型（LLM）拒绝行为的复杂性。第一篇论文《知识型和安全型拒绝的统一机制分析》提出，尽管知识型和安全型拒绝共享潜在机制，但在后续层级上存在分歧，安全型拒绝向知识型拒绝的迁移更强。第二篇论文《安全性的不稳定性：随机种子和温度如何暴露LLM不一致的拒绝行为》表明，由于随机种子和温度设置引入的不一致性，LLM的安全评估并不可靠，有相当比例的提示会表现出决策翻转。