Geodesic Research

新AI安全组织Geodesic Research 聚焦对齐初始化

Geodesic Research 是一个总部位于英国剑桥的新AI安全组织，专注于通过实证方法为大型语言模型构建稳健的对齐初始化。该组织的研究议程旨在解决在长周期能力强化学习过程中可能出现的对齐失误问题，而这些问题在训练后期可能难以纠正。Geodesic 旨在开发在模型训练早期嵌入持久性对齐先验的方法，借鉴先前的对齐预训练工作并解决其在生产环境中的局限性。