PulseAugur
中
实时 06:51:00
实体 Head Competition Steering

Head Competition Steering

PulseAugur coverage of Head Competition Steering — every cluster mentioning Head Competition Steering across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_239352 ·

    新LLM越狱方法利用续写驱动，提出HCS策略

    研究人员发现了一种名为“续写触发越狱”的大型语言模型（LLM）的新越狱技术。该方法通过操纵指令后缀来利用模型固有的文本续写驱动力，从而绕过安全防护。一项分析注意力头的研究揭示了模型续写倾向与其安全对齐训练之间的竞争。为解决此问题，提出了一种名为“头竞争引导”（HCS）的新策略，该策略在推理时利用这种竞争来提高安全性，并且可以提炼到更小的模型中。