PulseAugur
中
实时 09:23:31
English(EN) Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection

新的RAG-IDS框架可防御AI入侵检测攻击

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了RAG-IDS，一个新颖的三层框架，旨在防御检索增强生成（RAG）系统在入侵检测中免受知识投毒和提示注入攻击。该系统包含一个检索边界防御机制，包括软信任评分、标签嵌入一致性检查（LECC）和提示清理，即使在检索层受到损害的情况下也能保持分类准确性。在CIC-UNSW-NB15数据集上的实验表明，在攻击条件下性能得到显著恢复，其中LECC被证明是鲁棒性最关键的组成部分。 AI

影响 增强了用于网络入侵检测的AI系统的安全性和可靠性，使其更能抵御对抗性攻击。

排序理由 该集群包含一篇详细介绍AI安全新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的RAG-IDS框架可防御AI入侵检测攻击

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Kaysarul Anas Apurba, Md. Hasibul Hasan, Mahedee Zaman Moon, Sk. Md. Mizanur Rahman, Atsuo Inomata ·

    防御检索增强入侵检测免受知识投毒和提示注入攻击

    arXiv:2608.08100v1 Announce Type: cross Abstract: Retrieval-Augmented Generation (RAG) enables large language models to classify network flows and generate human-readable incident reports by retrieving semantically similar historical traffic from a vector knowledge base. However,…

相关实体

相关话题