PathMNIST
PulseAugur coverage of PathMNIST — every cluster mentioning PathMNIST across labs, papers, and developer communities, ranked by signal.
-
新研究探索高效且鲁棒的机器学习擦除技术
研究人员正在开发新的机器学习擦除方法，旨在无需完全重新训练即可从训练模型中去除特定数据的影响。多篇论文提出了实现更高效、更鲁棒擦除的新技术。这些方法侧重于在确保遗忘的知识不易被恢复的同时，保持模型的效用，即使在持续训练或对抗性攻击下也是如此。
-
新攻击框架以理论保证为目标，攻击AI模型
研究人员开发了一个新的AI模型对抗性攻击框架，专注于仅能访问最高预测的硬标签黑盒场景。他们的方法引入了一种新颖的零查询初始化策略和一种模式驱动优化算法，该算法基于将现有方法与梯度符号近似联系起来的理论分析。与各种数据集和模型类型（包括商业API和CLIP模型）上的最先进攻击相比，该方法展示了更高的效率和成功率，同时还显示出对数据损坏和分割等专业任务的鲁棒性。
-
新的共形预测方法提高了医学人工智能的可靠性
研究人员开发了一种名为自适应 Lambda 标准（Adaptive Lambda Criterion）的一致性预测新方法，以解决用于医学图像分类的深度学习模型的过度自信问题。该方法旨在通过最小化不同预测集大小下的最坏情况覆盖违规来提高安全关键型应用中的可靠性。在 OrganAMNIST 和 PathMNIST 数据集上进行测试，该方法证明了全局覆盖的改进，并保持了对模糊区域的关注，使其更适合医学人工智能。
-
Mono-Forward 算法提供了一种替代反向传播的局部学习方法
研究人员推出了一种名为 Mono-Forward (MF) 的新算法，旨在改进用于训练深度神经网络的前向前向 (FF) 方法。MF 保留了 FF 的局部学习和更小的内存占用，并用标准的交叉熵损失取代了其对比优度目标。这一修改使得 MF 在某些任务（例如 PathMNIST 上的 MLP-Mixers）上能够与 FF 甚至反向传播相媲美或表现更优，同时使用的内存显著减少。
-
研究人员开发POUR，一种可证明最优的AI表示遗忘方法
研究人员开发了一种名为POUR（Provably Optimal Unlearning of Representations）的新方法，可以在不完全重新训练的情况下，有效地从机器学习模型中移除特定概念或训练数据。该方法侧重于在表示层面进行遗忘，确保改变的是内部模型表示，而不仅仅是最终的分类器。POUR利用几何投影和蒸馏方案，在保持保留知识和类别分离的保真度的同时，实现最优遗忘，并在基准数据集上优于现有方法。
-
风险感知鲁棒学习：降低医学图像分类中标签噪声下的临床风险
两篇新研究论文探讨了人工智能驱动的医学图像分类中临床安全的关键问题，特别是在处理数据隐私和标签噪声时。第一篇论文研究了机器遗忘技术，发现标准方法可能会无意中增加假阴性率和临床风险。它提出了一种新的方法 SalUn-CRA，通过优先考虑临床风险感知来缓解这一问题。第二篇论文研究了噪声鲁棒学习方法，证明它们在减少错误方面的有效性并不总是能转化为临床安全，因为假阳性和假阴性之间存在不对称成本。这项研究提倡将成本敏感优化纳入鲁棒训练，以更好地…