Pii
PulseAugur coverage of Pii — every cluster mentioning Pii across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
MuleSoft 代理流程测试策略在五个层面详细介绍
本文详细介绍了在 MuleSoft 上构建的代理变更审批系统的全面测试策略。文章概述了一种五层测试方法，首先是对单个工具和错误处理进行确定性的 MUnit 测试，然后在网关处进行策略测试以确保访问控制和数据隐私。场景测试验证代理图中的路由逻辑，而使用历史请求黄金数据集进行的评估则评估代理推理的性能。最后，在测试环境中对真实场景请求进行人工审批，这是部署前的最终环节。该过程强调为质量保证团队创建可审计的证据包，确保所有测试都在非生产环境…
-
新型防火墙工具保护客服LLM免遭个人身份信息泄露
一款名为Resk的新型开源工具已被开发出来，用作客服AI助手的防火墙，防止个人身份信息（PII）泄露。该工具使用FastAPI和React构建，位于用户和LLM提供商之间，提供基于角色的访问控制（RBAC）、策略过滤和工具门控等功能。本教程演示了如何部署Resk以保护敏感客户数据不被恶意提示或受损的工具访问泄露。
-
New Locket Framework Enhances LLM Privacy and Access Control
研究人员开发了一个名为 Locket 的新框架，以增强大型语言模型 (LLM) 的安全性和隐私性。Locket 使用轻量级适配器，每个适配器都与特定的访问策略相关联，并使用一个采用学习到的密钥入口令牌来路由请求的门控模块。该系统允许对私有数据的访问进行细粒度控制，从而实现诸如 PII 屏蔽或差分隐私等功能，而不会显著影响模型的效用。实验表明，Locket 在获得授权时，性能与在原始数据上进行微调相当，同时在未经授权时能有效减少 PII 泄露。
-
AI聊天机器人护栏缺陷：不完整的监控暴露个人身份信息泄露
一位开发者发现其AI聊天机器人的护栏系统中存在一个关键的安全漏洞，导致敏感客户数据被泄露。尽管有四个客户的电子邮件地址被发送到浏览器，但该系统错误地报告称个人身份信息（PII）攻击已被阻止。这是因为护栏仅监控助手的文本输出，而未监控包括工具结果在内的完整数据流。
-
AWS 推出使用 Amazon Bedrock 的无服务器 PII 审核管道
AWS 推出了使用 Amazon Bedrock 数据自动化 (BDA) 的新的无服务器个人身份信息 (PII) 审核管道。该解决方案旨在自动化文档和图像中敏感数据的检测和移除，解决了手动流程和传统审核方法的局限性。通过利用生成式 AI 理解文档上下文的能力，该管道为处理大量敏感信息的组织提供了一种更精确、更具可扩展性的 PII 审核方法。
-
新的RAG-CT防御措施可减轻LLM生成系统中的隐私风险
研究人员开发了一种名为RAG-CT的新防御机制，以解决检索增强生成（RAG）系统中的隐私风险。这些系统通过将响应 grounding 在外部知识上来增强大型语言模型（LLM），但容易受到攻击者从其底层语料库中提取个人身份信息（PII）的威胁。RAG-CT通过分析提示词分布来识别恶意查询，显著减少PII泄露，并且在不改变核心LLM或检索器的情况下，性能优于现有防御措施。
-
Albugent 使用 AI 在人工审核下修复数据质量问题
Albugent 是一款旨在自动修复 SQLite 数据集中数据质量问题的新工具。它能识别诸如账单金额为负或患者姓名缺失等常见问题，并生成具体的 SQL 修复方案。用户可以手动批准或拒绝这些修复，或者该工具可以在 CLI 模式下运行，通过打开 GitHub 拉取请求来提交建议的更改。一个关键的设计原则是 AI 代理从不拥有对数据库的直接写入权限，从而确保在应用任何更改之前进行人工审核。
-
新工具包通过企业级功能增强Claude API集成
enterprise-claude-kit是一个可通过pip安装的新工具，通过添加PII过滤、成本跟踪和SHA-256审计日志等功能来增强与Claude API的集成。该工具包旨在为使用Claude功能的应用程序提供企业级的控制和安全性。此外，另一项独立提及的服务是RealFeedApp，一个精选科学和技术新闻的免费摘要服务。
-
AWS 推出使用 Amazon Bedrock 上的 LLM 的模型无关 PII 检测器
AWS 开发了一款模型无关的 PII 检测工具，该工具利用 Amazon Bedrock 上提供的大型语言模型 (LLM)。这款可配置的检测器可以通过调整其指令来识别文本中的各种个人身份信息 (PII)，无需重新训练模型。该工具旨在与任何 LLM 配合使用，包括 Amazon Bedrock 管理的模型或自托管的开源模型，并已与现有的 PII 检测方法进行了基准测试。
-
WooCommerce PII Guard 针对实时数据负载，而非仅日志
一种保护 WooCommerce 交易中个人身份信息 (PII) 的新方法侧重于检查实时数据负载，而不仅仅是日志。与现有解决方案（用于屏蔽日志中的 PII 或避免敏感字段）不同，此方法会分析实际传输到 AI 模型的数据。它解决了 WooCommerce 的 `meta_data` 字段中的漏洞，该字段允许任意键值对包含电话号码等敏感信息以及非敏感数据。所提出的系统双向运行，在 AI Ability 运行前阻止意外的敏感输入，并在之后进…
-
Albugent WebMCP 在浏览器中运行本地数据治理
Albugent WebMCP 项目是一款注重隐私的数据治理工具，完全在网络浏览器中运行。它利用 Web Worker 中的 SQLite WASM 在本地执行敏感数据扫描和 PII 检测，确保数据不离开客户端。该系统通过 document.modelContext WebMCP API 集成 AI 代理，以识别和建议合规风险的补救措施，并由人工监督最终批准。
-
新研究揭示 PII 检测系统在真实数据偏移下表现不佳
一篇题为“Mind the Gap: PII 检测系统中的鲁棒性风险”的新研究论文，强调了当前个人身份信息 (PII) 检测系统存在的重大漏洞。该研究评估了基于编码器的 NER、基于规则的混合检测以及生成式 LLM 提取方法，发现所有这些方法在面对现实世界分布偏移（如嘈杂或非结构化输入）时，性能都会显著下降。研究提出了一个带有 QA 驱动反馈循环的混合检测流程，以改进风险缓解，并发布了一个新的基准，以促进 PII 系统的分布外 (OO…
-
Perplexity 为 Mac 应用推出混合计算，并开源 PII 分类器
Perplexity 为其 Mac 应用程序推出了一项新的“混合计算”功能，允许用户在本地处理敏感数据，同时利用云模型处理通用任务。此功能适用于 Pro、Max 和 Enterprise 订阅用户，它利用用户 Mac 上的本地模型来处理私人文件或个人身份信息 (PII)。Perplexity 还将其在 Mac 设备上运行的 PII 检测分类器开源。
-
新研究揭示微调LLM的隐私风险
一篇新研究论文发表在arXiv上，探讨了大型语言模型监督微调（SFT）相关的隐私风险。研究人员证明，可以从使用专有数据集训练的模型中重建个人身份信息（PII），尤其是在医疗和法律等敏感领域。他们开发了一种名为COVA的新解码算法，该算法通过利用上下文知识和多轮交互来增强对手方恢复PII的能力，突显了SFT模型中显著的隐私泄露问题。
-
扩散语言模型通过新的效率和安全技术取得进展 · 跟踪 10 个来源
近期研究探讨了扩散语言模型（DLM）的进展，重点在于提高其效率、安全性和能力。论文介绍了 Q-Skew 等方法，用于隐私风险评估和个人身份信息（PII）提取；以及通过识别早期去噪步骤中的拒绝信号来增强安全对齐的 Refusal-Aware Early Commitment (RAEC)。CARVE 和 Survival-Guided Length Decoding 等技术旨在优化生成长度和降低计算成本，而 Affix Cache 和 …
-
AIBridge 自动为 LLM 提示进行 PII redaction
一项名为 AIBridge 的新服务为开发人员提供了一种解决方案，可以在用户提示发送给第三方大型语言模型 (LLM) 之前自动对其进行个人身份信息 (PII) redaction。这解决了 GDPR 和 CCPA 等法规的合规性问题，以及与 LLM 提供商的服务条款协议。通过在网关级别集成 PII 屏蔽，AIBridge 旨在简化开发人员的隐私合规性，确保姓名、电子邮件和电话号码等敏感数据在到达 DeepSeek、Kimi k3 和 …
-
谷歌收购Spirit Airlines数据引发空乘人员隐私担忧
谷歌通过拍卖获得了一批Spirit Airlines的员工和工作场所记录的大型数据集。虽然谷歌承诺对客户数据进行去标识化处理以保护隐私，但空乘人员担心员工数据中的个人信息可能不会得到同等程度的保护。空乘协会认为，谷歌引用的用于数据去标识化的消费者保护法不足以涵盖工人保密性，可能使前雇员面临风险。
-
新工具Redakto可匿名化大型语言模型文本以增强隐私保护
研究人员推出了一款名为Redakto的开源工具，旨在对文本进行匿名化处理，然后再将其输入大型语言模型（LLMs）。这解决了日益增长的隐私担忧，尤其是在新的欧盟立法出台的背景下，这些立法可能会阻碍创新。Redakto提供了文本擦除和假名化功能，可通过面向最终用户的Web应用程序和面向开发人员的REST API进行访问。实证评估表明，Redakto可以在不显著影响下游LLM任务效用的情况下匿名化文本。
-
新AI方法实现可解释、领域无关的文本删除
研究人员开发了一种使用指令微调语言模型来实现领域无关文本删除的新颖方法。该方法允许用户用自然语言定义敏感信息，然后用这些信息微调一个较小的语言模型。该模型随后可以识别并删除非结构化文档中的敏感内容，并为每次删除提供透明的、基于规则的理由。该方法旨在提高法律发现和医疗文档等应用的文本清理的可审计性和有效性。
-
P2Skill方法增强了本地LLM推理的隐私性
研究人员开发了P2Skill，一种用于云本地LLM推理系统的隐私保护技能蒸馏的新颖方法。该方法通过分解任务、路由PII感知信息和重建输出来处理敏感数据，而无需进行隐私特定的微调。P2Skill根据云LLM执行失败的情况迭代地改进技能，使本地SLM能够泛化超出已知的PII模式。评估表明，P2Skill在隐私保护推理质量方面显著优于以前的方法。