peer review

AI同行评审易受仅展示性攻击

近期研究突显了AI辅助科学同行评审系统存在的重大漏洞。研究表明，AI评审员可能通过仅展示性的修改（例如更改摘要或表述方式）而被操纵，而无需改变核心科学内容。这些攻击可能导致评分虚高和接受率增加，引发担忧，即作者可能会为了迎合AI的判断而牺牲科学价值。此外，多模态AI评审员容易受到针对图表和文本的攻击，这需要强大的防御措施和谨慎的人工监督来维护同行评审过程的完整性。