SpacyNlpEngine

开发者为 RAG 系统构建自定义 LangGraph Guardrails

本文详细介绍了如何为 RAG 系统构建输入 Guardrails，以防止提示注入和个人身份信息 (PII) 的泄露。作者解释了 PII 暴露的风险、导致指令绕过或系统提示泄露的恶意提示，以及有害请求。解决方案包括创建一个自定义 LangGraph 节点，该节点使用 Microsoft 的 Presidio 库来屏蔽 PII，并使用 LLM 来检查提示注入和有害内容。