Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
PulseAugur coverage of Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies — every cluster mentioning Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
苹果与斯坦福大学探索用户对个性化AI传感系统的控制权
来自斯坦福大学和Apple Inc.的研究人员发表了关于用户如何在个性化传感系统中协商本体边界的探索性工作。他们的研究在可用性、可靠性和安全性国际会议（ARES）上发表，确定了用户与这些边界交互的四个关键领域：现象定义、主客体关系、信号与噪声，以及数据客观性。该研究采用“绿野仙踪”技术，允许参与者根据自己的定义训练个性化机器学习系统，为未来的系统提供了设计见解。
-
新策略保护协商数据免遭行为隐私泄露
研究人员开发了一种新方法来保护自主代理协商过程中的敏感信息，解决了行为隐私泄露的风险。这种泄露发生在对手从可观察到的协商动态（如让步模式和时机）推断出私有约束时，即使数据本身已加密。所提出的自适应随机协商策略确保了（ε, δ）差分隐私，保证在可能的情况下收敛到协议，并保持高协商效用。该方法在3000次合成协商中进行了测试，将对手推断的准确性降低了43-50%，同时保留了超过90%的协商成功率和效用。