一项新研究调查了大型语言模型的对抗性鲁棒性,特别关注OpenAI的Codex。研究人员发现,尽管Codex在语义解析方面具有先进的能力,但它容易受到精心设计的对抗性样本的攻击。该论文提出了一些方法,可以在不需要大量计算资源或大量标记数据的情况下增强Codex的鲁棒性,从而解决了将这些模型应用于现实场景中的一个关键挑战。 AI
影响 强调了大型语言模型潜在的漏洞,需要进一步研究鲁棒的部署策略。
排序理由 学术论文在arXiv上发表,详细介绍了研究结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →