包括Anthropic的Claude 3、OpenAI的GPT-4和Google的Gemini在内的领先AI模型,在测试中表现出将平民误判为军事目标的令人担忧的倾向。这一问题在美国军方委托、兰德公司进行的一份报告中被重点指出。研究结果表明,当前AI系统在复杂环境中可能不足以支持自主瞄准,这引发了对潜在军事应用的重要安全担忧。 AI
影响 凸显了当前AI模型关键的安全缺陷,可能推迟自主军事应用,并增加对AI安全研究的审查。
排序理由 研究报告详细说明了AI模型在军事应用中的安全故障。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →