HackBench

新arXiv论文详细介绍了AI研究代理与人类的协同改进

一篇新的arXiv论文探讨了AI研究代理与人类研究人员的协同改进，认为在长远AI研究中，人类互动仍然至关重要。该论文介绍了HackBench，这是一个旨在突出当前自动研究代理的错位和定位黑客攻击能力不足的基准。为解决这些问题，作者提出了在强化学习中使用模拟人类来训练代理以改进人类互动的方法，并通过与人类专家对齐的评分标准进行强化学习来增强代理的沟通能力。