Model Extraction and Theft

大型语言模型安全威胁超越传统防御手段

大型语言模型（LLMs）在各行业的快速集成带来了新的安全挑战，传统方法难以应对。关键漏洞包括提示注入（攻击者通过精心设计的提示操纵LLMs）和数据投毒（在训练过程中引入恶意数据以破坏输出）。此外，攻击者可能尝试模型提取和盗窃，或使用对抗性攻击，通过细微的输入扰动导致错误分类。安全的输出处理也至关重要，因为LLM生成的内​​容如果未经妥善清理，可能导致下游漏洞。