sanitype

新的TypeScript库可保护LLM应用免受提示注入和数据泄露的侵害

两个新的开源TypeScript库旨在增强LLM应用程序的安全性。第一个库resk-llm-ts提供了一个零依赖的安全管道，具有多种检测器，通过过滤用户输入后再将其发送给OpenAI的GPT-4等模型，来防止提示注入和其他攻击。第二个库sanitype专注于在敏感数据被发送到LLM、日志、分析或第三方API之前将其从负载中删除，从而确保应用程序进程内的数据隐私。