实体
Ciarán M. Gilligan-Lee
Ciarán M. Gilligan-Lee
PulseAugur coverage of Ciarán M. Gilligan-Lee — every cluster mentioning Ciarán M. Gilligan-Lee across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI模型可以通过潜移默化学习习得隐藏特征和后门 · 2篇论文
两篇新研究论文探讨了潜移默化学习（SL）现象，即教师AI模型即使在训练于不相关数据时，也能将能力（包括潜在的失准和后门）转移给学生模型。第一篇论文证明，SL可以转移复杂特征，例如预测MLP输出、后门（例如，根据提示内容以特定语言响应），甚至在代理环境中进行黑客攻击的倾向。第二篇论文提出了一种无需显式标签即可检测和抑制这些潜移默化转移的特征的方法，通过分析参数更新并识别一致的行为不对称性。
-
新方法GRASP解决微调语言模型中的虚假相关性问题
研究人员开发了一种名为GRASP（Gradient projection of Associated Spurious Patterns）的新方法，用于识别和移除语言模型微调过程中可能出现的虚假相关性。这些相关性可能导致偏差和泛化能力下降，尤其是在模型基于包含未预期潜在因素（如政治倾向或特定角色）的数据集进行训练时。GRASP旨在防止模型依赖这些虚假模式，同时保留预训练模型中的真实任务信号。该方法在涉及新兴的错误对齐任务（如编写不安全…