Apollo Research 已通过在旧金山开设办事处扩展其业务，并正在积极招聘旧金山和伦敦的技术职位。该公司正将其研究重点放在理解未来 AI 模型产生不对齐偏好的可能性以及旨在防止此问题的训练方法的有效性上。此外，Apollo 正在开发一款名为 Watcher 的产品，用于实时监控编码代理，并正在投入资源进行 AI 治理，特别是关于自动化 AI 研究和递归自我改进导致失控的风险。 AI
影响 Apollo Research 通过开发监控工具和研究 AI 不对齐来推进 AI 安全，这对于负责任的 AI 开发和治理至关重要。
排序理由 该集群详细介绍了专注于 AI 安全和治理的研究工作和产品开发，包括发布监控议程和开发代理监控产品。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
