实体
Yonatan Belinkov
Yonatan Belinkov
PulseAugur coverage of Yonatan Belinkov — every cluster mentioning Yonatan Belinkov across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的LIFT框架旨在提升语言模型的指令遵循能力
研究人员推出LIFT，一个用于评估和训练语言模型指令遵循能力的新框架。LIFT包含Lift-Bench，一个旨在通过使用作用域约束并区分主要任务和指令遵循目标来缓解奖励欺骗的基准。该框架还包含Lift-Train，一个比现有方法更不容易受到奖励欺骗的训练对应部分。初步实验表明，当前前沿模型在Lift-Bench更具挑战性的方面表现不佳，并且公开可用的基准和训练数据旨在提供对约束密度和可访问性的更精细控制。
-
ROME攻击通过GPU内存损坏重写AI模型事实
研究人员详细介绍了一种名为ROME（Rank-One Model Editing）的复杂攻击方法，该方法可以通过重写GPU内存来破坏AI模型。这种攻击通常需要事先进行供应链攻击以注入恶意Python代码，它允许在不生成新进程或进行网络调用的情况下，对手动修改模型内的事实信息。该方法最初发表在一篇学术论文中，突显了一个重大的安全漏洞，标准安全工具可能难以检测。