Francesco Sovrano

新的RuleSHAP方法揭示了LLMs中的注入行为

研究人员开发了一种名为RuleSHAP的新方法，以更好地检测和理解大型语言模型（LLMs）中的注入行为。该技术结合了全局SHAP聚合和规则归纳，与RuleFit和单独的全局SHAP等现有方法相比，显著提高了对复杂、非单变量触发器的识别能力。研究表明，RuleSHAP在揭示可能导致错误信息的驱动信念的启发式方法方面非常有效，与RuleFit相比，MRR@1提高了82%。