Blueprints

AI蓝图分析带来隐藏安全风险

一项安全分析强调了使用AI系统解读工程蓝图（例如Skoltech开发的系统）的风险。这些系统使用多模态模型读取和分析建筑图纸和建筑规范，引入了新的攻击面。研究人员警告可能存在的威胁，如隐写提示注入（steganographic prompt injection），即隐藏的指令被嵌入蓝图中，以及数据投毒（data poisoning），这可能导致结构不稳固的设计和灾难性故障。