一篇新论文分析了提示注入攻击如何演变为一种称为“Promptware”的多阶段恶意软件交付机制。该“Promptware 攻击链”概述了从初始访问到实现目标的七个不同阶段，并通过在 LLM 系统上的实际示例证明了其可行性。研究强调需要多层防御策略来应对这些不断演变的 LLM 安全威胁。 AI
影响 凸显了 LLM 系统中不断演变的安全威胁，需要先进的防御策略。
排序理由 该集群包含两篇分析 AI 安全威胁的学术论文。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
You Don't Know Jack About Formal Verification 이 글은 AI가 형식 검증(formal verification)의 가장 큰 진입 장벽인 증명 작성 비용을 크게 낮추면서, 형식 검증이 안전-critical 시스템뿐 아니라 일반 소프트웨어 개발에도 적용 가능해졌음을 설명합니다. 형식 검증은 코드가 모든 가능한 입력에 대해 명세를 만족함을 수학적으로 보장하며, AI는 자연어 요구사항을 형식 명세로 자동 변환하고 증명 실패 시 반복 개선을 수행해 개발자의 부담을 줄입니다…
The Promptware Kill Chain 이 논문은 프롬프트 인젝션 공격이 단순 입력 조작에서 다단계 악성코드 전달 메커니즘인 '프롬프트웨어'로 진화한 과정을 분석한다. 7단계 프롬프트웨어 킬체인(초기 접근, 권한 상승, 정찰, 지속성, 명령 및 제어, 측면 이동, 목표 수행)을 제시하고, 실제 LLM 시스템에서 발생한 공격 사례들을 통해 위협 모델의 현실성을 입증한다. LLM 기반 시스템 보안을 위해 킬체인 전 단계에 대응하는 다층 방어 전략의 필요성을 강조한다. https:// arxiv…