SAFE Framework

调查详述LLMs在网络安全与隐私中的双重用途风险

一篇新的调查论文详述了大型语言模型（LLMs）和生成式AI在网络安全与隐私中的双重用途风险。该论文强调了这些技术如何被用于先进的防御机制，如实时威胁检测和安全代码生成，以及复杂的攻击，包括AI生成的恶意软件。论文指出，LLM生成的恶意软件显著增加，估计到2025年将占已检测威胁的50%。该研究综合了70多篇文献的见解，并为负责任的部署提供了建议，例如模型水印和对抗性防御。