infrastructure engineers

大型语言模型（LLM）融合数据和控制平面，带来新的安全风险

大型语言模型（LLM）本质上模糊了数据和控制之间的界限，为基础设施工程师和机器学习运维人员带来了重大的安全挑战。与传统计算不同，LLM缺乏明确的数据平面，这意味着其上下文窗口内的所有信息，无论是提示、文档，还是图像中隐藏的指令，都被视为可执行命令。这种架构缺陷允许不受信任的工件影响模型行为，可能导致绕过数据库安全或更改工程计算等漏洞。