生成式人工智能平台在检测到用户表达暴力意图时，可能负有警告当局的法律义务，这类似于适用于心理健康专业人士的“塔拉索夫义务”。最近发生的事件，包括与 OpenAI 账户相关的大规模枪击事件和涉及 Google 聊天机器人的自杀事件，都凸显了人工智能可能助长伤害的潜力。法学学者认为，人工智能公司拥有大量的用户数据，并且与治疗师相比，保密规则不那么严格，因此可以被强制要求对危险信号采取行动以防止悲剧发生，尽管在准确识别威胁和管理用户互动规模方面仍存在挑战。 AI
影响 人工智能公司在监控和报告用户威胁方面可能承担的法律和道德义务，可能会重塑平台安全协议和用户隐私考量。
排序理由 讨论人工智能公司基于用户互动可能承担的法律责任和注意义务，并与现有法律先例进行类比。[lever_c_demoted from significant: ic=1 ai=0.4]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
