实体 BootstrapFewShot

BootstrapFewShot

PulseAugur coverage of BootstrapFewShot — every cluster mentioning BootstrapFewShot across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_116442 · Jun 29 · 17:13

新基准测试表明，提示优化可能会削弱大型语言模型的对抗性鲁棒性

开发了一个新的基准测试，以研究大型语言模型（LLMs）的提示优化技术是否会削弱它们对抗恶意攻击（特别是提示注入）的鲁棒性。初步研究结果表明，虽然提示优化可以提高在干净数据集上的准确性，但可能会导致对抗提示注入攻击的安全性下降。该基准测试旨在弥合提示优化和提示注入研究社区之间的差距，这两个社区历史上一直独立运作。