实体 Cat-DPO

Cat-DPO

PulseAugur coverage of Cat-DPO — every cluster mentioning Cat-DPO across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_200093 · Aug 14 · 04:00

新的Cat-DPO算法改进了跨危害类别的LLM安全对齐

研究人员开发了Cat-DPO，一种用于对齐大型语言模型与人类偏好的新算法。该方法将安全对齐视为每个类别的约束优化问题，从而解决了在有用性和安全性之间取得平衡的挑战。与使用单一标量进行安全性的先前方法不同，Cat-DPO为每个危害类别采用了单独的自适应安全裕度，使其能够更好地跟踪特定类别的难度并降低不同类型有害内容的安全性表现的方差。