WikiRAG

新基准量化 AI 模型干预的意外副作用

研究人员开发了 RippleBench-Maker，一个旨在识别和量化针对性干预对语言模型涟漪效应的自动化流程。该系统利用维基百科等现有知识库，生成与源概念在不同语义距离的问题。当应用于 Llama3-8B-Instruct 等模型的八种不同的遗忘方法时，该系统显示准确性下降在目标概念附近最大，并随着语义距离的增加而减小。值得注意的是，这些涟漪效应的传播特征在不同的基础模型中被发现是一致的，这表明它们是遗忘方法本身的属性。