LLM Jacobian

新的几何信息流框架增强了大语言模型的安全性

研究人员推出了一种名为几何信息流（GIF）的新框架，旨在控制大语言模型（LLMs）中的信息流，并减轻安全和隐私风险。GIF利用大语言模型的雅可比矩阵和局部输出几何来精确测量信息流，解决了先前方法中存在的污点爆炸问题。评估表明，GIF在检测敏感信息泄露方面显著优于基于注意力的方法，并且在代币成本大大降低的情况下，其性能可以媲美甚至超越GPT-5.5等模型。