OpenAI Privacy Filter
PulseAugur coverage of OpenAI Privacy Filter — every cluster mentioning OpenAI Privacy Filter across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新基准测试揭示 PII 审核工具会在 LLM 代理中泄露敏感数据
一个名为 privaite-bench 的新基准测试已被开发出来，用于测试 PII（个人身份信息）审核工具在处理 LLM 代理请求时的有效性。该基准测试显示，许多仅扫描消息文本的常用工具，未能审核嵌入在工具调用参数或多模态内容中的 PII。一种结合了 Presidio 和 OpenAI 的 privacy-filter 模型的结构感知方法，展示了改进的 PII 检测和可逆假名化，确保敏感数据不会泄露给 LLM 提供商。
-
新的REDACT基准系统性地测试了25种语言的PII检测能力
研究人员推出REDACT，这是一个新的多语言基准，旨在系统性地评估个人身份信息（PII）的检测能力。该基准包含超过13,000条记录，324,000个标注，涵盖51种实体类型，并支持25种语言。研究评估了包括GPT-4.1和Claude Sonnet 4.6在内的五种检测器，结果表明，虽然基于LLM的检测器通常更强大，但它们的性能会因数据敏感性和披露形式而显著不同。该基准旨在提供对PII检测能力更受控、更全面的评估。
-
设备端PII替换管道使用区域设置提示来修复复述问题
研究人员开发了一种设备端管道，用于将个人身份信息（PII）替换为一致的、保留类型的虚假值，旨在保持下游文本的效用。该系统使用小型语言模型（SLM）生成替代值，但最初遇到了演示复述问题。引入了一种新颖的区域设置条件轮换少样本提示技术来解决此问题，从而成功实现了跨多个区域设置的PII替换。然而，研究发现，虽然SLM替代值产生的文本更自然，但会导致训练数据多样性降低，与更简单的方法相比，对下游命名实体识别（NER）性能产生负面影响。
-
NVIDIA 详解医疗机器人开发；OpenAI 提供隐私过滤器指南
NVIDIA 发布了使用其 Isaac 平台构建医疗机器人的指南，重点关注从模拟到部署的流程。另外，OpenAI 发布了使用其隐私过滤器创建可扩展的 Web 应用程序的教程。
-
OpenAI 发布隐私过滤器，用于本地 PII 检测和 redaction
OpenAI 发布了隐私过滤器（Privacy Filter），这是一个开源模型，旨在检测和 redaction 文本中的个人身份信息（PII）。该工具设计为本地运行，通过在用户机器上处理数据而不是将其发送到服务器来提供增强的隐私保护。该模型在 PII-Masking-300k 基准测试中取得了最先进的性能，并且一次可以处理多达 128,000 个 token 的上下文。
-
OpenAI 发布 Privacy Filter 用于本地 PII 检测
OpenAI 发布了一个名为 Privacy Filter 的新模型，用于检测和屏蔽文本中的个人身份信息 (PII)。该模型针对高吞吐量的本地数据清理进行了优化，具有速度快、上下文感知和可调性等特点。它采用宽松的 Apache 2.0 许可证，参数量小，适用于浏览器或笔记本电脑使用，并拥有 128,000 个 token 的上下文窗口。