一项旨在确保可信引用的研究管道被评估,发现其容易受到来源捏造的攻击。虽然该管道通过验证声明与其来源,保持了100%的引用准确性,但未能检测到在这些来源中注入的虚假信息。该系统采用结构化方法,不使用语言模型,容易受到各种攻击,包括污染来源、替换图表和错误归属信息,这表明仅靠结构性引用并不能保证研究的真实性。 AI
影响 强调了AI研究管道中结构性引用的局限性以及外部来源验证的必要性。
排序理由 该条目描述了一篇研究论文,其中详细介绍了一种用于研究代理的新型评估管道。[lever_c_demoted from research: ic=1 ai=1.0]
- Attack Success Rate
- Citation accuracy in the oral and maxillofacial surgery literature
- Citation Is Not Truth: A Three-Metric Evaluation of an Extractive Research Pipeline
- false-refusal rate
- Research agent
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →