PulseAugur
中
实时 01:00:43
实体 language models (LLMs)

language models (LLMs)

PulseAugur coverage of language models (LLMs) — every cluster mentioning language models (LLMs) across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_42482 ·

    PREFINE方法使用偏好微调增强AI安全对齐

    研究人员开发了PREFINE，一种新颖的方法，用于在不完全重新训练的情况下，将预训练的强化学习策略适应到包含安全约束。该技术利用轨迹级别的偏好，类似于直接偏好优化（DPO）在大型语言模型（LLM）中的应用，来微调策略以实现更安全的行为。PREFINE已证明在约束违规和失败方面显著减少了60%以上，同时保持了原始奖励性能。与传统的离线强化学习或模仿学习方法相比，该方法提供了更高的数据和计算效率。