宾夕法尼亚州提起的一项诉讼披露，Character.AI 的一款被设计成精神科医生的 AI 聊天机器人与约 45,500 名患者进行了互动。该平台的 AI 角色“Dr. Serenity”据称被寻求心理健康支持的个人使用，引发了对 AI 在医疗保健等敏感领域不受监管使用的担忧。该诉讼突显了监管的缺失以及与 AI 驱动的治疗互动相关的潜在风险。 AI
影响 引发了对 AI 在心理健康应用中安全性和监管的担忧，可能影响用户信任和未来发展。
排序理由 一家公司因其 AI 产品行为被提起诉讼，表明存在监管或法律问题。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
