promptfirewall

Rust 工具 `promptfirewall` 为 LLM 提示注入提供 12μs 的本地扫描

一位开发者创建了一个名为 `promptfirewall` 的新开源工具，该工具用 Rust 编写，旨在检测和缓解 LLM 应用中的提示注入和个人身份信息 (PII) 泄露。该工具的性能远超现有解决方案，仅需 12 微秒即可在本地完成扫描，无需网络调用。它通过使用带有校验和验证的正则表达式模式来检测 PII，并通过结合启发式方法、TF-IDF 分类和熵分析的多层方法来检测提示注入，从而实现这一速度。