Mohamed Elmahallawy
PulseAugur coverage of Mohamed Elmahallawy — every cluster mentioning Mohamed Elmahallawy across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新框架通过可逆伪匿名化保护LLM交互中的PII
提出了一种名为Veil-then-Reveal (VtR)的新框架，用于在与大型语言模型 (LLM) 的交互中保护个人身份信息 (PII)。这种用户端方法旨在通过在敏感数据离开用户设备之前对其进行伪匿名化，来防止将敏感数据发送到远程LLM提供商的风险。VtR用逼真的替代物替换PII，同时保留语言和结构属性，并允许在LLM响应中可逆地恢复原始PII。
-
新的JEPA-Prune方法以最小的效用损失移除了微调LLM中的PII
研究人员开发了一种名为JEPA-Prune的新方法，以解决微调后大型语言模型（LLM）中的隐私问题。该技术旨在移除个人身份信息（PII），同时不显著降低模型的性能。JEPA-Prune使用联合嵌入预测架构（JEPA）在无PII的数据上训练一个参考模型，使其能够识别并修剪微调模型中的PII特定神经元。实验表明，修剪少量神经元可以显著降低PII推理准确性和提取召回率，同时保持效用。
-
New Locket Framework Enhances LLM Privacy and Access Control
研究人员开发了一个名为 Locket 的新框架，以增强大型语言模型 (LLM) 的安全性和隐私性。Locket 使用轻量级适配器，每个适配器都与特定的访问策略相关联，并使用一个采用学习到的密钥入口令牌来路由请求的门控模块。该系统允许对私有数据的访问进行细粒度控制，从而实现诸如 PII 屏蔽或差分隐私等功能，而不会显著影响模型的效用。实验表明，Locket 在获得授权时，性能与在原始数据上进行微调相当，同时在未经授权时能有效减少 PII 泄露。
-
新型黑盒防御TRIM可检测并移除AI后门触发器
研究人员开发了TRIM，一种新颖的黑盒防御系统，旨在推理过程中检测和移除深度神经网络（DNN）中的后门触发器。与先前需要访问模型内部或训练数据的方法不同，TRIM仅通过黑盒访问进行操作。它识别负责异常行为的图像区域，使用修复和基于扩散的重建来净化这些被操纵的区域，并保留良性内容。TRIM的有效性已在各种数据集和触发器类型中得到证明，显著降低了攻击成功率，同时保持了高清洁准确率。