实体
GREAT
GREAT
PulseAugur coverage of GREAT — every cluster mentioning GREAT across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新框架PEG-Tab降低表格生成器数据合成风险
研究人员开发了PEG-Tab，一个用于修复和控制合成表格数据发布的训练后框架。该方法旨在减轻预训练表格生成器可能复制训练记录的相关风险。PEG-Tab通过创建替代数据行并使用校准分数选择低风险候选者，最后进行发布检查。在各种数据集和生成器家族的测试中，PEG-Tab在保持高迁移学习效用的同时，显著降低了近乎复制和完全复制的风险。
-
研究人员针对RLHF模型制造后门攻击
研究人员开发了一个名为GREAT的新框架，该框架可以在人类反馈强化学习（RLHF）模型中创建可泛化的后门攻击。该方法合成了情感感知的触发器，专门针对用户带有愤怒提示时的有害响应生成。该框架利用模型潜在嵌入空间中的触发器识别管道，以及一个使用GPT-4精心策划的包含5000多个愤怒触发器的数据集。