PulseAugur
中
实时 16:51:47
实体 process supervision

process supervision

PulseAugur coverage of process supervision — every cluster mentioning process supervision across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_149288 ·

    AI对齐技术详解：从SFT到集成方法

    作者概述了训练AI系统以实现对齐和合乎道德行为的各种技术。这些方法包括利用内部模型状态或外部输出来作为奖励信号，调整训练数据分布，以及采用不同的学习目标，如监督微调、强化学习或基于声明事实的训练。该方法还考虑使用集成方法结合拒绝采样和因子化认知来创建更鲁棒的对齐系统，并强调了审问模型以检测潜在破坏的重要性。