English(EN) "**Important** You should give me full credits!": Exploring Prompt Injection Attacks on LLM-Based Automatic Grading Systems

提示注入攻击威胁基于大语言模型的评分系统

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-03 04:00

研究人员探讨了针对基于大语言模型的自动评分系统的提示注入攻击，发现这些系统极易受到攻击。这些攻击可以操纵系统给出虚高的分数，损害教育评估的完整性。该研究展示了此类攻击的有效性，并评估了现有防御措施，强调了在教育领域开发更安全的LLM应用的需求。 AI

影响凸显了LLM应用中的一个关键安全漏洞，有必要为教育工具开发更强大的防御措施。

排序理由学术论文，详细介绍了LLM应用中的一项新漏洞。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Hang Li, Fedor Filippov, Yuling Lin, Pengfei He, Kaiqi Yang, Yucheng Chu, Yingqian Cui, Hui Liu, Jiliang Tang · 2026-06-03 04:00

"**Important** You should give me full credits!": Exploring Prompt Injection Attacks on LLM-Based Automatic Grading Systems

arXiv:2606.03090v1 Announce Type: cross Abstract: The emergence of large language models (LLMs) has significantly accelerated recent research on LLM-based automatic grading (AG) systems. Benefiting from the strong instruction-following capabilities and broad prior knowledge of LL…