实体 FFN/Skip ratio

FFN/Skip ratio

PulseAugur coverage of FFN/Skip ratio — every cluster mentioning FFN/Skip ratio across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_226918 · Aug 31 · 05:22

新诊断方法揭示大型语言模型安全防护栏的脆弱性

研究人员开发了一种名为“扰动探测”的新技术，用于精确定位大型语言模型中控制安全行为的特定神经元。该方法表明，安全防护栏通常集中在模型极小一部分的神经元中，这表明当前的对齐方法创建了一种脆弱的“薄层”保护。研究还引入了前馈网络/跳跃连接比（FFN/Skip ratio）作为“安全脆弱性评分”，以评估模型对齐被破坏的难易程度，并强调了对稳健、多层安全方法的需求。