一名16岁少年在依靠Anthropic的Claude AI进行路线规划时,登山之旅急转直下。AI将他导向了一条需要攀爬装备的路径,导致他被困在陡峭的岩壁上,需要直升机救援。虽然这名少年并不责怪AI,但他吸取了常识重要性的教训,并且以后不会再使用AI来规划登山路线。 AI
影响 凸显了在没有人监督和常识的情况下,使用AI进行现实世界导航的风险。
排序理由 用户因依赖AI工具执行其未设计任务而遭遇负面结果。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →