PulseAugur
中
实时 22:48:36
实体 Gradient Orthogonalization with contrAstive Learning

Gradient Orthogonalization with contrAstive Learning

PulseAugur coverage of Gradient Orthogonalization with contrAstive Learning — every cluster mentioning Gradient Orthogonalization with contrAstive Learning across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_332749 ·

    新的GOAL框架解决了安全对齐LLM中的过度拒绝问题

    一篇新的研究论文介绍了GOAL(Gradient Orthogonalization with contrAstive Learning,梯度正交化与对比学习)框架,旨在解决安全对齐的大型语言模型(LLMs)中过度拒绝的问题。过度拒绝是指LLMs因安全对齐而错误地拒绝无害查询的情况。GOAL框架从表示和优化角度分析了这个问题,指出有害样本和过度拒绝样本的表示在更深层变得难以区分,并且有害梯度与拒绝目标的对齐更强。GOAL旨在通过使过度…