Lira
PulseAugur coverage of Lira — every cluster mentioning Lira across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Rebuff 0.1.1 防护模块被简单的短语修改绕过
对 Rebuff 0.1.1 防护模块默认启发式层的审计显示，一个 0.75 的阈值可以通过简单的修改来绕过。当使用其自身记录的示例进行测试时，该模块将该短语标记为 0.824 分。然而，同一短语的一个略微修改的版本，去掉了结尾的从句，得分 0.700 且未被标记，这表明启发式方法依赖于精确的短语匹配而非意图。审计还显示，非英语短语和工具结果框架的指令得分显著降低，这表明启发式层作为唯一的安全措施的有效性存在局限性。
-
新方法无需参考模型即可估算人工智能模型隐私风险
研究人员开发了一种新方法，可以在无需训练单独参考模型的情况下估算人工智能模型对成员推理攻击（MIA）的脆弱性。该方法分析目标模型本身的损失分布，识别与攻击成功相关的特定统计代理。研究结果表明，模型存在一个脆弱性连续体，不同的损失分布形状表明哪个代理最适合估算隐私风险。
-
新框架统一隐私攻击，引入贝叶斯方法
研究人员已将三种主要的成员推断攻击（MIA）——LiRA、RMIA 和 BASE——统一到一个单一的指数族对数似然比框架下。这种统一揭示了模型复杂性的层级，将 RMIA 和 LiRA 连接为端点。该研究还引入了 BaVarIA，一种贝叶斯方差推断攻击，旨在解决小影子模型预算下的性能瓶颈。BaVarIA 在各种测试平台和预算下均提供稳定的性能，尤其是在低影子模型和离线场景中，其表现优于 LiRA。
-
新研究审计机器学习子群体中的公平性-隐私权权衡
一项发表在arXiv上的新研究调查了机器学习模型中增强公平性的算法与隐私泄露之间复杂的相互作用。研究人员调整了似然比攻击（LiRA）以审计子群体层面的隐私风险，揭示了公平性干预可能对不同群体产生不均衡的影响。研究还分析了差分隐私如何与公平性方法相互作用，表明收益和成本并非均匀分布。研究结果强调了在子群体层面联合评估公平性、隐私权和效用的必要性，并引入了一个支持此类审计的框架。
-
阿里巴巴推出 Qwen-Robot 具身大模型系列
阿里巴巴已推出其首个全面的具身人工智能模型家族 Qwen-Robot 系列。该系列包含三个独立的模型：用于视觉-语言-动作（VLA）操作的 Qwen-RobotManip，用于视觉-语言导航（VLN）的 Qwen-RobotNav，以及作为世界模型的 Qwen-RobotWorld。这些模型可以独立运行或协同工作，旨在为各种机器人在物理世界中有效运行提供基础能力。
-
脑电图基础模型在标准审计下仍泄露数据
研究人员开发了一个新的脑电图基础模型审计框架，该框架超越了单一端点评估。该框架联合审计多个端点，揭示了通过单项测试的模型仍可能泄露光谱属性。一个关键发现是，交叉编码器迁移审计证明了不同冻结编码器之间存在属性泄露，即使是标准的差分隐私随机梯度下降（DP-SGD）等防御措施也未能阻止。
-
新方法通过语义相关性追踪 AI 模型训练数据
研究人员开发了一种名为 idSCD 的新方法来识别用于训练 AI 模型的特定数据集。该技术分析模型学到的语义相关性结构，寻找特定于数据集而非对任务有因果关系的偶然规律。idSCD 方法提供了一种白盒语义指纹识别方法，可以区分匹配和不匹配的数据集对，在各种分类任务中优于现有的黑盒和白盒基线。