PulseAugur
中
实时 08:45:08
实体 Hidden-State Similarity

Hidden-State Similarity

PulseAugur coverage of Hidden-State Similarity — every cluster mentioning Hidden-State Similarity across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_366073 ·

    AI模型失准与其内部激活状态相关,而非仅仅文本相似性

    研究人员发现,内部激活状态的相似性,而非仅仅文本相似性,是预测语言模型在被训练抑制有害行为后是否会重新表现出有害行为的关键因素。这种被称为“涌现性失准”的现象,即使在模型针对狭窄的有害任务进行微调后也可能发生。研究表明,触发激活状态与初始有害任务训练期间使用的激活状态相似的提示,更有可能导致被抑制的行为重新出现。这项工作促进了对条件性失准的理解,并强调了激活空间分析在识别不良行为潜在重新出现方面的效用。