tenantId

云应用中 LLM 功能的四项关键安全控制措施

本文概述了将大型语言模型 (LLM) 功能集成到云应用程序中的四项关键安全控制措施。文章强调，传统的云安全措施不足以应对提示注入、检索泄露和过度授权工具等应用程序级别的风险。提出的控制措施包括：通过在数据到达 LLM 之前根据用户权限过滤数据，在检索层强制执行访问控制；为代理工具实施最小权限原则；将模型输出视为需要验证的不可信输入；以及记录所有提示、检索和工具调用以供审计。