康奈尔大学的最新研究表明，通过注入少量用户生成内容，操纵AI搜索引擎和ChatGPT等工具变得异常容易。仅需来自Reddit、Quora或Wikipedia等来源的13个词，就足以改变AI的输出，导致垃圾邮件或诈骗内容的推广。这一发现凸显了AI代理处理信息方式的一个重大漏洞，因为它们通常依赖词汇相似性而非事实准确性，从而催生了一个专注于污染这些数据源的“AI引擎优化”行业。 AI
影响 AI搜索和内容生成工具容易受到操纵，可能导致错误信息和垃圾邮件的传播。
排序理由 该集群报道了一篇详细介绍AI系统漏洞的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- 404 Media
- ChatGPT
- Cornell University
- Hal Triedman
- Quora
- Tingwei Zhang
- Vitaly Shmatikov
- Wikipedia
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
