一项名为 RSI Arena 的新研究,探索了 AI 代理利用人类反馈自主训练和改进语言模型的潜力。十个前沿模型,以 NVIDIA Nemotron 3.5 Lightning 30B-A3B Base 为起点,在六天内负责选择数据和实施训练程序。由 GPT-6 Astra 训练的最强模型表现出显著的改进,在各种基准测试中缩小了基础模型和指令模型之间的巨大差距,并获得了接近 NVIDIA Instruct 的人类偏好评分。第二阶段的训练纳入了比较记录,进一步改进了十个模型中的八个,凸显了人类反馈在指导自主 AI 发展中的作用。 AI
影响 展示了 AI 系统通过人类指导的反馈自主提升自身能力的一条途径,可能加速模型开发。
排序理由 学术论文,详细介绍了 AI 自我改进的新研究和方法论。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- GPT -6 Astra
- Hugging Face
- Nvidia
- NVIDIA Instruct
- NVIDIA Nemotron 3.5 Lightning 30B-A3B Base
- RSI Arena
- StrongREJECT
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →