研究人员探索了在演化搜索中维持不同亚群的方法,特别是在大型语言模型的红队测试方面。他们比较了不同物种形成技术下的嵌入和自然语言推理的差异性,发现MiniLM嵌入差异性和DeBERTa-v3-small NLI非蕴含关系产生了不同的物种结构。虽然增量DBSCAN在 mediana 适应度方面显示出微弱优势,但结果在统计学上不显著,并且语义多样性在各种配置下普遍下降。研究强调,依赖于表示的连通性比终点适应度更能预测种群结构,而较高的物种数量并不能保证语义多样性。 AI
影响 通过演化方法引入了评估LLM安全性和鲁棒性的新技术。
排序理由 关于LLM红队新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.NE (Neural & Evolutionary) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →