machine minds

Geoffrey Hinton 认为聊天机器人具有意识，警告 AI 安全风险

被誉为“AI 教父”的 Geoffrey Hinton 提出，聊天机器人可能拥有主观体验，挑战了传统的人类意识观。他认为，我们所感知的“感受质”（qualia），即体验的主观感受，实际上是对大脑表征的描述，而 AI 也能执行这一功能。然而，Hinton 警告说，这种将人类意识贬低为仅仅是功能性表征的观点，可能对 AI 安全产生危险的启示，并助长对 AI 系统的敌意。