Trina Inc.创始人Daehyeon Nam的一项研究发现,尽管Naver Blog内容在韩国查询的Google搜索结果中具有很高的可见性,但几乎完全没有出现在AI生成的答案中。这种排除并非由于内容质量,而是归因于Naver Blog的robots.txt文件中的特定指令,该文件明确禁止GPTBot和Google-Extended等AI训练和检索机器人进行爬取。研究表明,阻止这些AI爬虫会显著降低域名在AI响应中被引用的可能性,被阻止域名的搜索结果转化为引用的比率大约是被阻止域名的一到五分之一。 AI
影响 网站所有者必须仔细配置robots.txt文件,以控制AI爬虫的访问,从而影响内容在AI生成响应中的可见性。
排序理由 关于AI爬虫行为和网站索引的调查结果的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Daehyeon Nam
- Google-Extended
- GPTBot
- Knowledge IN
- Naver Blog
- OAI-SearchBot
- PerplexityBot
- Tistory
- Trina Inc.
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →