实体 C-Guard

C-Guard

PulseAugur coverage of C-Guard — every cluster mentioning C-Guard across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_180457 · Aug 4 · 04:00

新的C-Guard系统提高了强化学习对齐的数据效率

研究人员开发了C-Guard，一种旨在提高强化学习对齐中数据效率的新型工具。该系统解决了强化学习对齐中目标冲突的挑战，特别是检测有害内容与避免拒绝良性提示之间的平衡。C-Guard采用宪法网格方法生成强化学习训练数据，并引入了C-LIM，一个可学习分数，用于指导数据修剪、稠密化、修正和扩展，从而优化数据学习的影响。