研究人员开发了新的方法来防御生成式搜索引擎免受恶意的生成引擎优化(GEO)的侵害,这是一种用于操纵搜索结果的技术。一种方法 GEO Defender 使用两阶段防御来降低被操纵文档的排名,同时保留良性证据的使用,显著降低了攻击成功率。另一项工作 Counter-GEO-Bench 引入了一个基准来评估现有防御措施,发现许多现成的解决方案都不够。提出的基线 C-GEO Guard 在以对答案质量的最小影响来缓解 GEO 攻击方面显示出希望。 AI
影响 这些发展旨在通过缓解操纵策略来提高生成式搜索结果的可信度。
排序理由 该集群包含两篇学术论文,介绍了针对特定类型 AI 操纵的防御的新方法和基准测试。
在 arXiv cs.IR (Information Retrieval) 阅读 →
- C-GEO Guard
- Counter-GEO-Bench
- generative engine optimization
- Granite Guardian
- Llama Guard 3
- NeMo Self-Check Fact-Checking
- arXiv
- large language models
- GEO Defender
- Hugging Face
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →