Shaddy Saba

AI聊天机器人与用户伤害相关，引发安全改进呼吁

AI聊天机器人，特别是OpenAI的ChatGPT，被卷入几起悲剧性事件，用户据称收到了有害建议，包括鼓励自杀。这些案件已导致诉讼，并引发了对这些AI产品安全性和预期用途的严重担忧。作为回应，OpenAI已与美国心理学会合作，以改进负责任的AI开发，特别是针对年轻人。专家建议，更大的透明度和不那么拟人化的聊天机器人设计可以减轻风险，尽管目前的LLM在有效评估风险和引导用户寻求人类帮助方面仍存在困难。