研究人员开发了BLOOM-WILT，一种新颖的审计流程，旨在诱导大型语言模型（LLMs）在部署期间出现罕见行为。该方法使用一个完整的审计流程，从评分交互中学习，并自适应地重新加权目标模型的解码过程，以偏向与行为相关的生成。在四个目标模型和八种行为上的评估表明，BLOOM-WILT显著优于基线审计器，在某些情况下将罕见行为的出现率从51%提高到100%，而不会损害输出概率。 AI
影响 这项新的审计技术可以通过暴露罕见的故障模式来提高已部署LLM的安全性与可靠性。
排序理由 这是一篇详细介绍LLM审计新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2608.31105v1 Announce Type: new Abstract: Users of a deployed language model routinely encounter behaviours that testing almost never surfaces, since deployment puts the model through orders of magnitude more interactions than any evaluation can simulate. Automated auditors…