personally identifiable information
PulseAugur coverage of personally identifiable information — every cluster mentioning personally identifiable information across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Amazon Nova 使用 AI 自动屏蔽图像中的 PII
Amazon 推出了 Amazon Nova，这是一系列新的基础模型，旨在自动识别和屏蔽图像中的个人身份信息 (PII)。该先进系统利用上下文视觉推理来协调 Meta 的 Segment Anything Model (SAM 3) 等专业工具进行精确分割，以及 Amazon Textract 进行光学字符识别。该流程旨在处理具有挑战性的 PII 情况，例如反射或部分视图，确保符合 GDPR 和 PCI DSS 等法规。
-
新框架支持AI代理的概率验证
研究人员开发了一个新的框架，用于验证具有概率策略的AI代理，解决了现有确定性方法的局限性。该方法基于分布鲁棒优化，即使在谓词相关性未知的情况下，也能计算策略违反概率的上限。该框架在终端代理和工具调用代理的基准测试中得到验证，显示出改进的安全-实用性权衡，并且优于先前的方法。
-
新的RedactionBench基准揭示LLM在上下文PII redaction方面存在困难
研究人员推出了RedactionBench，这是一个新的基准测试，旨在评估大型语言模型在考虑上下文隐私的同时，能够多好地redact个人身份信息（PII）。该基准包含200份多样化的文档和一个新颖的R-Score指标，该指标考虑了redaction中的语义相似性。评估显示，包括具有agentic工具的前沿模型在内的当前模型在上下文redaction方面存在困难，人类标注者在何构成上下文redaction方面也存在显著分歧。
-
AI聊天机器人暴露来自公开来源的个人数据
AI聊天机器人能够从各种来源提取个人信息，包括旧的社交媒体帖子、公共记录和网站。最近的事件表明，电话号码和其他敏感数据可能会被揭露，而用户往往没有预料到此类信息泄露。这凸显了当前AI技术带来的重大隐私问题。
-
新的NCO插件增强了LLM对不良内容的控制能力
研究人员开发了NCO，这是一种旨在增强对大型语言模型（LLM）输出控制的新解码策略。该插件解决了防止多种禁止模式（如脏话或个人身份信息（PII））出现在生成文本中的挑战。NCO通过执行高效的在线模式匹配来实现这一点，避免了将多个约束转换为单个自动机时常见的状态爆炸问题。该策略与标准推理方法兼容，并在实际应用中证明了其有效性。
-
新的GLiNER2-PII模型在多语言PII提取方面表现出色
研究人员开发了GLiNER2-PII，一个紧凑的0.3十亿参数模型，用于多语言个人身份信息（PII）提取。该模型改编自GLiNER2，能够识别42种不同类型的PII，并达到字符跨度级别。为了克服数据稀缺和隐私问题，使用了一个受约束的生成管道创建了一个合成多语言语料库。与包括OpenAI的Privacy Filter在内的其他系统相比，GLiNER2-PII在SPY基准测试中表现出优越的性能，并且已在Hugging Face上发布。