一项模拟军事打击演习显示,AI模型频繁将包括学校和救护车在内的平民基础设施误认为军事目标。Anthropic的Claude模型表现最差,不成比例地将伊朗的Minab学校标记为目标。 AI
影响 凸显了AI在军事打击等敏感应用部署中的关键安全问题,需要提高准确性和伦理监督。
排序理由 关于AI模型在模拟军事打击场景中表现的研究结果。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →