一项名为 ARMOR 2025 的新军方对齐安全基准已被推出，用于评估大型语言模型在遵守战争法和交战规则等军事学说方面的合规性。初步结果表明，许多商业大语言模型未能达到这些学说标准。此外，一项新研究提出了 LOCA 方法，用于揭示大语言模型越狱背后的最小、局部因果解释，这可能显著改变 AI 安全策略。 AI
影响 强调了军用 AI 合规性方面的关键差距，并引入了理解和减轻大语言模型越狱的新方法。
排序理由 推出了一项新的安全基准和一种分析大语言模型漏洞的新颖方法。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →
📰 Military-Aligned LLM Safety: ARMOR 2025 Exposes Critical Gaps in AI Doctrinal Compliance ARMOR 2025, a new military-aligned safety benchmark, tests large language models against Law of War, Rules of Engagement, and Joint Ethics Regulation. Results reveal widespread failures in …
📰 ARMOR 2025: Askeri AI Güvenliği İçin İlk LLM Testi Amerikalı araştırmacılar, büyük dil modellerinin askeri kurallara uygunluğunu ölçen ilk benchmarkı duyurdu: ARMOR 2025. Sivil güvenlik testlerinin yetersiz kaldığı bir alanda, savaş kuralları ve etik ilkelerle test ediliyor....…
📰 Local Causal Explanations in 2026: How LOCA Uncovers Minimal Jailbreaks in LLMs New research introduces LOCA, a method that provides local, causal explanations for jailbreak success in large language models, revealing minimal intermediate changes that trigger refusal. This adva…
📰 GPT-4 Jailbreak Başarısı: 2026'da Minimal, Lokal ve Kausal Açıklamaların Sırrı Yeni araştırmalar, büyük dil modellerinde jailbreak başarılarının nedenini, karmaşık kodlar değil, küçük ve yerel etkileşimlerde buluyor. Bu keşif, güvenlik stratejilerini kökten değiştirebilir.... #…