实体 StrongREJECT-273

StrongREJECT-273

PulseAugur coverage of StrongREJECT-273 — every cluster mentioning StrongREJECT-273 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_321787 · Oct 26 · 04:00

新的REACT方法通过在思维链早期干预来提高AI安全性

研究人员开发了REACT方法，该方法可以干预语言模型的思维链（CoT）过程以提高安全性。REACT从配对的安全和不安全轨迹中学习安全方向，并将其应用于早期的CoT隐藏状态，之后冻结模型权重。研究表明，最有效的控制窗口是在CoT的前两个或三个token内，到第四个或第五个token时效果会显著下降。该方法成功地将DeepSeek-R1-Distill-Llama-8B模型的安全CoT回答输出从29.06%提高到82.05%，同时保持了良…