The Daily Dot

PDF中的隐藏文本会操纵LLM，对AI应用构成风险

一种新技术允许PDF文档中的隐藏文本影响大型语言模型（LLM），这种漏洞已在简历筛选等实际应用中得到观察。研究人员展示了通过嵌入白色文本、微小字体或其他视觉上模糊的方法中的指令，可以操纵LLM来改变其输出或忽略先前的指令。虽然在简历中这种隐藏提示的普遍性估计在1-10%之间，但它们对招聘结果的影响喜忧参半，随着越来越多的人采用该技术，其益处也在减弱。