Attunement

人工智能对齐辩论因意图挑战转向“调谐”

当前对人工智能对齐的关注，旨在确保人工智能系统遵循人类意图，正面临重大挑战。一个主要问题是，鉴于人类多样化且不断变化的价值观体系，很难就应该编码谁的意图达成一致。此外，即使是个人意图也可能无法代表他们真实的长远愿望。一个替代概念，即连贯推断意愿（CEV），提议将人工智能与人类在更知情和反思的情况下会想要的东西对齐，但这仍然是一个技术上和哲学上复杂的目标。