PulseAugur
中
实时 10:26:11
English(EN) Semantic-Preserving Prompt Hijacking: A Black-Box Adversarial Attack on Auto-Prompt Optimization

新型攻击通过保留语义来劫持大型语言模型的自动优化

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种新的黑盒对抗性攻击方法，称为自适应贪婪局部搜索（Adaptive Greedy Local Search），旨在劫持大型语言模型中的自动建议优化模块。该技术通过微妙地改变用户输入，在保持与原始文本高度语义相似性的同时，引起模型输出的语义变化。在各种大型语言模型上的实验表明，在相似的语义约束下，该方法比现有方法在实现其攻击目标方面更成功。 AI

影响 突显了大型语言模型自动优化功能中的一个漏洞，可能影响模型的安全性和可信度。

排序理由 详细介绍大型语言模型新型对抗性攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Chong Zhang, Xiang Li, Jia Wang, Shan Liang, Haochen Xue, Xiaobo Jin ·

    Semantic-Preserving Prompt Hijacking: A Black-Box Adversarial Attack on Auto-Prompt Optimization

    arXiv:2506.18756v2 Announce Type: replace Abstract: LLMs increasingly integrate auto-suggestion optimization modules, enabling them to rewrite and display user input before generating the final response. While this design aims to enhance transparency and trust, its process of aut…

相关实体

相关话题