Decision boundaries and receiver operating characteristic curves: New methods for determining accelerometer cutpoints
PulseAugur coverage of Decision boundaries and receiver operating characteristic curves: New methods for determining accelerometer cutpoints — every cluster mentioning Decision boundaries and receiver operating characteristic curves: New methods for determining accelerometer cutpoints across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究详述了针对优化系统中AI模型提取的防御措施
一篇新发表在arXiv上的研究论文详述了一种在上下文线性优化系统中防止模型提取的方法。这些系统常用于预测后优化(PTO)框架,旨在提供最优决策而不泄露其内部成本向量。该论文识别了攻击者通过观察不同上下文中的决策来学习底层预测模型的条件,特别是针对线性模型。为应对此,提出了一种防御机制,当预测成本向量接近决策边界时扰动决策,实验表明这种防御可以增加提取误差。
-
新的“幅度势能”指标有助于神经网络泛化分析
研究人员引入了一个名为“幅度势能”的新概念,该概念源自度量幅度理论,以更好地理解神经网络的泛化能力。该量在logit层计算,反映了一个点在数据集中的表示程度。实验表明,该幅度势能的比率与记忆分数相关,并且可以检测决策边界的结构变化,作为模块化算术任务中“grokking”的几何指标。即使在抑制神经网络坍塌的情况下,幅度势能也保留了关于几何结构的信息。
-
新理论将深度分类器动力学与决策边界几何联系起来
研究人员开发了一种数学理论,通过将分类器的层视为一个动力学系统来理解深度分类器中决策边界的形成。该研究侧重于有限时间最大李雅普诺夫指数(FTMLE)来衡量网络深度的轨迹收敛和发散。研究结果表明,概率层面的FTMLE清楚地反映了高斯类别的决策边界几何形状,但在logit层面,这种关系变得依赖于训练方法,而在隐藏表示中则更加条件化。该论文还提出了一种“几何感知微调”技术,以增强隐藏层中与边界相关的FTMLE,并提出了分层感知正则化的策略。