CyberNews

新型泄露扫描器揭示LLM推理漏洞，凸显重大安全风险

一位开发者创建了一个泄露扫描器，用于识别大型语言模型中的漏洞，特别关注数据通过模型推理过程泄露而非仅仅通过输出泄露的问题。该扫描器在已知秘密家族上达到了完美的准确率，但在语义理解或运行时检测方面遇到了困难。这项研究凸显了重大的风险，包括一个Gemini密钥泄露导致一家初创公司损失超过82,000美元，以及潜在的GDPR罚款，许多组织低估了它们在代理事件中的暴露程度。