PulseAugur
中
实时 12:06:56
实体 Broken Symmetry in LLM Refusal: Answer Release Is More Local Than Refusal Restoration

Broken Symmetry in LLM Refusal: Answer Release Is More Local Than Refusal Restoration

PulseAugur coverage of Broken Symmetry in LLM Refusal: Answer Release Is More Local Than Refusal Restoration — every cluster mentioning Broken Symmetry in LLM Refusal: Answer Release Is More Local Than Refusal Restoration across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_205974 ·

    LLM拒绝机制呈现“对称性破坏”，答案仍可恢复

    研究人员发现大型语言模型（LLM）在拒绝回答提示方面存在“对称性破坏”。他们发现，即使LLM生成了拒绝，通过局部干预仍然可以从其内部状态中恢复出正确答案。然而，重新施加拒绝是一个更复杂的过程，需要跨越多个位置进行更广泛的干预。这表明LLM的拒绝并非简单的开关，探针可恢复性可能会高估模型为安全和审计目的而控制行为的能力。