leakage
PulseAugur coverage of leakage — every cluster mentioning leakage across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
K折交叉验证与气候学预测中的数据泄露
本文深入探讨了k折交叉验证（CV）和数据泄露在气候学预测领域中的关键概念。文章强调了k折CV对于评估机器学习模型可靠性的重要性，通过评估模型在未见过数据上的泛化能力。文章还指出，数据泄露是一个常见的导致结果过于乐观的陷阱，可能通过不当的数据分割或无意中使用代理变量等多种方式发生，因此在分析中需要仔细解读和可复现性。
-
LLM 红队测试：AI 安全测试的新领域
LLM 红队测试是一种专门的安全测试实践，旨在识别 AI 驱动系统中的漏洞，这与传统的 Web 应用程序安全测试有显著不同。该方法侧重于对抗性输入，以发现诸如提示注入、越狱和数据泄露等问题，并认识到 LLM 的概率性本质。测试的关键领域包括对齐层、指令遵循、推理边界和上下文表示，并使用攻击成功率 (ASR) 等指标来量化可利用性。OWASP GenAI LLM Top 10 和 MITRE ATLAS 等框架提供了用于组织这些攻击向量的分类法。
-
数据泄露破坏机器学习模型准确性
数据泄露是机器学习中的一个关键问题，即测试集中的信息无意中影响了训练过程，导致准确率指标虚高，无法反映真实世界的性能。这通常发生在对整个数据集进行拆分（训练集和测试集）之前，就计算均值（用于插补）或标准差（用于缩放）等预处理步骤。为防止这种情况，预处理步骤必须仅在训练数据上进行拟合，然后用于转换训练集和测试集，确保在学习阶段测试集保持不可见。
-
机器学习CKD预测模型存在数据泄露和预测器不稳定的问题
对用于慢性肾脏病（CKD）早期预测的机器学习模型进行的系统综述揭示了数据泄露和预测器稳定性方面存在严重问题。该综述分析了十九项研究，引入了一个分类法和评分框架来评估信息泄露。高泄露率的研究报告的平均准确率为95.48%，远高于无泄露研究报告的80.2%的准确率，表明性能指标被夸大。此外，分析发现超过80%的预测器缺乏可靠性，这表明报告的性能提升通常是由于方法学上的局限性，而不是真正的预测能力。
-
2026年GenAI漏洞加速，突出Flowise远程代码执行和Claude辅助泄露事件
2026年初的安全事件凸显了生成式AI风险的加速，OWASP LLM Top 10对此进行了详细介绍。这些漏洞，包括Flowise编排器中的远程代码执行漏洞以及Claude辅助的数据泄露事件，展示了诸如提示注入、不充分的沙箱隔离和未经授权的代码执行等关键问题。AI的快速普及，加上对非人类身份的过度授权，创造了一个脆弱的环境，攻击者可以利用LLM进行侦察甚至恶意软件开发。