human direction

新框架指导科学研究，以应对AI超越人类能力

一篇新论文提出了一个框架，用于在AI能够超越人类研究员的时代进行科学研究。该框架强调，科学的主要目标应该是对世界的持久的、集体的、人类的理解，并为人类的目标和价值观而追求。这一原则导致了一个将任务委托给AI的两部分测试：人类理解，确保科学界能够解释和质疑主张；以及人类指导，确保人类对研究问题和发现做出判断。该论文建议进行改革，以保持科学对人类理解和指导的关注，即使AI的能力不断进步。