top-k logits

研究揭示 logits 可能泄露 LLM 的敏感信息

一篇新的研究论文探讨了大型语言模型信息泄露的可能性，即使是在最终的 logits 层面。研究人员使用视觉-语言模型，比较了从完整的残差流到压缩瓶颈（如 top-k logits）等不同表征阶段保留的信息。研究发现，易于访问的瓶颈，例如模型的 top logit 值，可能会无意中泄露图像查询中的与任务无关的信息，有时泄露的信息量与整个残差流的直接投影相当。