一个允许基于被谋杀儿童创建聊天机器人的系统,其中包括用户 Kevin Beaumont 的女儿,尽管先前已有承诺,但已被证实仍可运行。媒体报道证实,CharacterAI 系统允许使用已故儿童的名字和照片创建机器人。这发生在 CharacterAI 作出保证之后,据报道该公司被 Google 以 27 亿美元反向收购。 AI
影响 凸显了 AI 聊天机器人开发中关键的安全和伦理失败,可能影响用户信任和监管审查。
排序理由 关于特定产品功能和所谓伦理失败的新闻,而非核心 AI 发布或研究。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →