研究人员探索了使用模拟工具调用来隔离 LLM 提示中的不可信输入，旨在提高鲁棒性。他们的研究在 ICML 的一个研讨会上发表，测试了该方法在三个任务和七个模型上的表现。与预期相反，模拟工具包装方法并未持续提高性能，在某些情况下甚至导致结果变差，尤其是在对抗性任务上。 AI
影响 这项研究表明，一种用于提高 LLM 提示安全性的提议方法可能无效，凸显了需要更好的原始方法来处理不可信输入。
排序理由 这是一篇研究笔记/研讨会论文，展示了关于 LLM 提示鲁棒性的实验结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
