SNCF Connect

新的开源防火墙Resk保护LLM免受提示注入攻击

一款名为Resk的新开源工具已发布，旨在帮助保护AI应用程序（如旅行规划助手）免受间接提示注入攻击。这种防火墙解决方案可以部署在任何兼容OpenAI的LLM之前，以添加基于角色的访问控制、基于策略的过滤和提供商路由。本教程演示了如何设置Resk，使用OpenAI、vLLM和Ollama等不同的LLM后端进行配置，并定义角色和过滤策略以降低恶意网络内容的风险。