The Future Worth Building Is Human

文章认为，人工智能对齐必须考虑到不断变化的人类价值观

一篇论文将人类在人际关系中的决策过程与人工智能与不断发展的价值观保持一致的挑战进行了类比。作者借鉴了在印度十年婚介经验，观察到人们常常是实时构建自己的偏好和价值观，而不是发现预先存在的价值观。这一观察被应用于人工智能对齐领域，质疑了人工智能用户总是拥有明确的待实施价值观的假设。文章提出，人工智能系统可能需要像人类通过经验和互动发展自身价值观一样，去应对和适应那些价值观仍在协商中的用户。