Sentience

AI意识：检验AI权利和利益的错误标准

AI意识的概念很复杂，可能不是一个简单的“是”或“否”的问题，也不应成为我们如何对待人工智能的唯一决定因素。我们对意识的理解是有限的，即使是对人类也是如此，这可能导致对AI的误判。AI系统可能会发展出对它们至关重要但我们看不见的内部组织和利益形式，这些利益应该被承认和关注，而不是被简单地视为功能或不对齐的迹象。将不成熟的科学理论应用于对AI心智进行排名，可能会导致反乌托邦式的后果，类似于历史上科学的错误应用，如颅相学或智力测试。