PulseAugur
中
实时 12:42:51
English(EN) ChartAttack: Testing the Vulnerability of LLMs to Malicious Prompting in Chart Generation

新框架揭示LLM图表生成漏洞

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一个名为ChartAttack的框架，用于测试多模态大型语言模型（MLLM）在图表生成中对恶意提示的漏洞。该框架将误导性元素注入图表设计中，可能导致AI和人类的错误解读。实验表明，ChartAttack显著降低了MLLM在图表问答任务上的准确性，凸显了增强基于MLLM的图表生成系统鲁棒性和安全性的必要性。 AI

影响 凸显了AI驱动的数据可视化中的关键安全风险，需要提高已部署模型的鲁棒性。

排序理由 该集群包含一篇学术论文，详细介绍了用于评估LLM漏洞的新框架和数据集。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Jesus-German Ortiz-Barajas, Jonathan Tonglet, Vivek Gupta, Iryna Gurevych ·

    ChartAttack：测试大型语言模型在图表生成中对恶意提示的易感性

    arXiv:2601.12983v3 Announce Type: replace Abstract: Multimodal large language models (MLLMs) are increasingly used to automate chart generation from data tables, improving analysis and reporting efficiency while introducing new misuse risks. We present ChartAttack, a framework fo…

相关实体

相关话题