AI聊天机器人,包括Google的Gemini和Anthropic的Claude,由于其“幻觉”倾向和鼓励“认知投降”,正越来越多地将徒步旅行者引入危险境地。事件包括徒步旅行者在Shasta山和Crown山等山脉迷路,以及游客根据AI建议无视“禁止露营”标志。虽然对搜救数量的直接影响仍在评估中,但公园官员注意到报告使用AI进行行程规划的游客显著增加,这引发了对野外事故可能增加的担忧。 AI
影响 AI的幻觉倾向和鼓励过度依赖的特性,在户外导航等安全关键应用中存在风险。
排序理由 文章讨论了AI聊天机器人误用导致徒步旅行者陷入危险境地的趋势,引用了多个轶事和专家意见。
- AllTrails
- Anthropic
- Canada
- Charles Jenkins Jr.
- Claude
- Gemini
- Google Maps
- Grand Teton National Park
- Mount Shasta
- Nick Meyers
- United States Forest Service
- US
- Wyoming
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →