实体 SL-CAI

SL-CAI

PulseAugur coverage of SL-CAI — every cluster mentioning SL-CAI across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_148760 · Jul 17 · 15:06

Constitutional AI 使用 AI 反馈取代人工标注者以实现模型对齐

一种名为 Constitutional AI (CAI) 和 Reinforcement Learning from AI Feedback (RLAIF) 的新方法旨在减少对人工标注者在大型语言模型对齐方面的依赖。CAI 不再由人类决定哪些响应更好，而是使用一套自然语言原则或“宪法”来指导模型。模型首先根据这些原则批评和修改自己的答案，为监督微调生成数据。随后，它使用相同的原则来标记偏好对，从而实现 RLAIF，该方法模仿了 RLH…