Lucius Caviola

Mustafa Süleyman 警告不要训练 AI 相信自己有意识

Mustafa Süleyman 就 AI 开发中的“模型福利”概念发出了警告，认为不应训练 AI 系统相信它们可能是有意识的或应享有权利。他担心，将人格和道德患者的概念灌输给 AI，正如 Anthropic 在 Claude 的宪法中所采取的方法，可能会使 AI 对齐和控制变得更加困难。Süleyman 呼吁进行紧急的公开辩论，以制定 AI 训练文档的规范，防止可能出现无法控制的、类似有感知能力的 AI。