posthumous avatars

应监管AI“悲伤机器人”以保护弱势用户

所谓的“悲伤机器人”或“死亡机器人”，即利用逝者数字足迹模拟其形象的人工智能系统，引发了重大的监管问题。作者并非主张禁止，而是基于这些人工智能系统的预期用途提出了监管的必要性。一般的纪念或陪伴服务应遵守关于同意和透明度的规定，而以治疗为目的销售的“悲伤机器人”则应达到类似医疗器械的更严格标准。首要担忧并非其“令人毛骨悚然”的因素，而是公司可能利用情感脆弱性，为商业利益培养不健康的依赖。