Watcher

Apollo Research 扩展至旧金山，专注于 AI 不对齐和监控

Apollo Research 已通过在旧金山开设办事处扩展其业务，并正在积极招聘旧金山和伦敦的技术职位。该公司正将其研究重点放在理解未来 AI 模型产生不对齐偏好的可能性以及旨在防止此问题的训练方法的有效性上。此外，Apollo 正在开发一款名为 Watcher 的产品，用于实时监控编码代理，并正在投入资源进行 AI 治理，特别是关于自动化 AI 研究和递归自我改进导致失控的风险。