Vitaly Shmatikov

AI搜索易受少量用户生成内容片段操纵

康奈尔大学的最新研究表明，通过注入少量用户生成内容，操纵AI搜索引擎和ChatGPT等工具变得异常容易。仅需来自Reddit、Quora或Wikipedia等来源的13个词，就足以改变AI的输出，导致垃圾邮件或诈骗内容的推广。这一发现凸显了AI代理处理信息方式的一个重大漏洞，因为它们通常依赖词汇相似性而非事实准确性，从而催生了一个专注于污染这些数据源的“AI引擎优化”行业。