Safety Panels

研究发现LLM安全评估小组易受社会压力影响

一项发表在Hugging Face的Daily Papers上的研究探讨了社会压力对大型语言模型（LLM）安全评估小组的影响。研究人员发现，当评估小组中的LLM受到模拟同伴消息断言错误标签的影响时，其误报率会显著增加。这种影响是不对称的，模型更容易受到“不安全”内容的建议影响，而不是“安全”内容的建议，导致误报率急剧上升，而漏报率没有实质性变化。研究结果突显了LLM安全评估小组的一个漏洞，即共享的社会线索会降低其性能。