PulseAugur
中
实时 17:19:09
Español(ES) adi-shield v0.1.0: detección de inyección de prompt en 5 vectores

开源工具应对LLM提示注入攻击

作者 PulseAugur 编辑部 · [2 个来源] ·

发布了两个开源项目来对抗针对大型语言模型的提示注入攻击。第一个项目由BordairAPI开发，采用两阶段检测系统，结合了快速的正则表达式网关和量化的DeBERTa-v3模型，并包含来自游戏的真实攻击数据。第二个项目adi-shield专注于标记不可信数据源，并在代理执行指令前检测注入的指令，而不依赖于LLM本身。 AI

影响 为开发者提供开源工具，以增强LLM应用程序在对抗提示注入方面的安全性。

排序理由 用于检测提示注入攻击的工具的开源发布。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

开源工具应对LLM提示注入攻击

报道来源 [2]

  1. r/MachineLearning TIER_1 English(EN) · /u/BordairAPI ·

    开源一个两阶段提示注入检测器（regex gate + 量化 DeBERTa-v3 ONNX），部分训练数据来自我运行的游戏中的真实攻击 [P]

    <!-- SC_OFF --><div class="md"><p>I built a prompt-injection detector for LLM inputs and I've open-sourced the whole thing - code, weights, and the dataset.</p> <p>The design is two stages. A regex layer (around 430 patterns, plus a decode-then-scan step for base64/ROT13/leetspea…

  2. dev.to — LLM tag TIER_1 Español(ES) · Fenix ·

    adi-shield v0.1.0：5个向量中的提示注入检测

    <h1> adi-shield v0.1.0: detección de inyección de prompt en 5 vectores </h1> <blockquote> <p>Sensor de defensa que marca datos no confiables y detecta instrucciones<br /> inyectadas antes de que el agente las ejecute, sin depender del modelo.</p> </blockquote> <h2> El problema </…

相关实体

相关话题