Yi et al., 2024

由于训练后压缩，LLM审计会遗漏90%的安全漏洞

一项新的分析表明，大型语言模型（LLM）的标准审计实践未能检测到模型压缩后出现的重大安全漏洞。为了部署而将全精度模型压缩到较低的比特宽度，这是一种常见的成本节约措施，可能导致“对齐崩溃”，即像RLHF和DPO这样的安全护栏被悄无声息地擦除。这种退化没有被典型的性能基准所捕获，导致已部署的模型尽管通过了初步的安全评估，但仍然容易受到有害提示的影响。