Pii
PulseAugur coverage of Pii — every cluster mentioning Pii across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
AIBridge 自动为 LLM 提示进行 PII redaction
一项名为 AIBridge 的新服务为开发人员提供了一种解决方案，可以在用户提示发送给第三方大型语言模型 (LLM) 之前自动对其进行个人身份信息 (PII) redaction。这解决了 GDPR 和 CCPA 等法规的合规性问题，以及与 LLM 提供商的服务条款协议。通过在网关级别集成 PII 屏蔽，AIBridge 旨在简化开发人员的隐私合规性，确保姓名、电子邮件和电话号码等敏感数据在到达 DeepSeek、Kimi k3 和 …
-
谷歌收购Spirit Airlines数据引发空乘人员隐私担忧
谷歌通过拍卖获得了一批Spirit Airlines的员工和工作场所记录的大型数据集。虽然谷歌承诺对客户数据进行去标识化处理以保护隐私，但空乘人员担心员工数据中的个人信息可能不会得到同等程度的保护。空乘协会认为，谷歌引用的用于数据去标识化的消费者保护法不足以涵盖工人保密性，可能使前雇员面临风险。
-
新工具Redakto可匿名化大型语言模型文本以增强隐私保护
研究人员推出了一款名为Redakto的开源工具，旨在对文本进行匿名化处理，然后再将其输入大型语言模型（LLMs）。这解决了日益增长的隐私担忧，尤其是在新的欧盟立法出台的背景下，这些立法可能会阻碍创新。Redakto提供了文本擦除和假名化功能，可通过面向最终用户的Web应用程序和面向开发人员的REST API进行访问。实证评估表明，Redakto可以在不显著影响下游LLM任务效用的情况下匿名化文本。
-
新AI方法实现可解释、领域无关的文本删除
研究人员开发了一种使用指令微调语言模型来实现领域无关文本删除的新颖方法。该方法允许用户用自然语言定义敏感信息，然后用这些信息微调一个较小的语言模型。该模型随后可以识别并删除非结构化文档中的敏感内容，并为每次删除提供透明的、基于规则的理由。该方法旨在提高法律发现和医疗文档等应用的文本清理的可审计性和有效性。
-
P2Skill方法增强了本地LLM推理的隐私性
研究人员开发了P2Skill，一种用于云本地LLM推理系统的隐私保护技能蒸馏的新颖方法。该方法通过分解任务、路由PII感知信息和重建输出来处理敏感数据，而无需进行隐私特定的微调。P2Skill根据云LLM执行失败的情况迭代地改进技能，使本地SLM能够泛化超出已知的PII模式。评估表明，P2Skill在隐私保护推理质量方面显著优于以前的方法。
-
LLM 治理引擎添加 RAGAS 可靠性评分以对抗幻觉
一位开发者通过集成 RAGAS 可靠性评分增强了 LLM 治理引擎，该评分衡量模型响应与所提供上下文的匹配程度。此新功能是对现有 PII 防火墙的补充，创建了一个两阶段的执行流程。该系统现在在查询到达模型之前检查敏感数据，并在之后根据源材料验证模型输出的准确性。此举旨在对抗模型自信地陈述上下文中不存在的信息的幻觉现象。
-
人工智能在数据丢失防护中的作用：从检测走向判断
传统的数据丢失防护（DLP）工具通过模式匹配专注于检测，但这种方法存在局限性。一项最新研究发现，来自正则表达式和以个人身份信息（PII）为重点的模型，其80%以上的发现都是误报，这凸显了人工判断的必要性。作者 Harsh Singhal 提出，能够理解上下文和组织特定信息的代理式人工智能系统，更适合弥合数据安全中检测与决策之间的差距。
-
LLM 护栏通过验证输入和输出来增强 AI 安全性
LLM 护栏正在被开发，为 AI 系统提供一个独立的验证层。这些护栏旨在拦截不安全输入和格式错误的输出，防止它们进入生产环境。具体来说，输入护栏旨在阻止提示注入、保护个人身份信息 (PII) 以及阻止离题请求，而输出护栏则确保响应符合要求的格式和安全标准。
-
匿名化 LLM 管道中 PII 的 5 种技术
保护大型语言模型 (LLM) 管道中的个人身份信息 (PII) 是人工智能开发中一个关键但常被忽视的方面。用于训练、微调、检索增强生成和用户提示的数据可能包含姓名、电子邮件和健康记录等敏感详细信息，存在重大的法律和声誉风险。为减轻这些责任，五种关键的匿名化技术至关重要：数据屏蔽、假名化、泛化、数据交换和合成数据生成。实施这些方法对于防止数据泄露和确保负责任的人工智能开发至关重要。
-
AI代理因数据目录缺陷难以区分事实与猜测
AI数据代理存在一个关键缺陷，由于数据架构失败，它们无法区分事实信息和模型生成的推断。这个问题源于数据目录在数据到达AI模型之前，将认证、观察和推断等不同数据层级扁平化为一个单一的置信度分数。因此，代理可能会以与已验证事实相同的语法确定性来呈现猜测，导致严重的错误，例如通过对客户数据进行有缺陷的连接操作而导致错误的收入报告。文章认为，这个问题需要数据目录中的架构解决方案，而不是仅仅依赖提示工程，以保留数据类型的来源和独特性。
-
LLM上的提示注入攻击有两种类型，其中间接注入构成更大威胁
对大型语言模型（LLM）的提示注入攻击比通常认为的要复杂，有两种不同的类型。直接注入涉及来自用户的恶意指令，大多数系统都设计用来检测它。然而，间接注入，即有害指令隐藏在LLM处理的内容（如网页或文档）中，构成更大威胁，因为它绕过了标准的输入过滤器。防御两者都需要将所有数据视为不受信任的，扫描传入的注入和传出的数据泄露，并确保内容不授予未经授权的权限。
-
AWS 推出 Bedrock Guardrails 在代码生成中的最佳实践
AWS 正在提供将 Amazon Bedrock Guardrails 应用于代码生成工作流的最佳实践。这些 Guardrails 对于检测和过滤不安全的代码模式、防止提示攻击以及删除个人身份信息 (PII) 和 AWS 访问密钥等敏感信息至关重要。该文章讨论了将 Guardrails 应用于 Claude Code、Kiro 和 OpenAI Codex 等高吞吐量编码助手时可能出现的节流错误、成本增加和延迟等挑战，并提供了优化性能…
-
平台工程师意外成为 AI 护栏守护者
平台工程师发现自己越来越多地负责 AI 护栏，这是一个他们未曾预料到的角色。这项职责由将 LLM 集成到面向用户产品中的功能侧开发人员和管理基础设施的核心平台团队分担。这两组之间存在差距，当护栏实施没有明确分配时，可能导致个人身份信息泄露和过高的代币成本等问题。
-
Resk-Security 发布 Node.js LLM 安全工具包
Resk-Security 发布了 resk-llm-ts，这是一个新的 TypeScript 工具包，旨在保护 Node.js 大型语言模型 (LLM) 应用程序免受安全威胁。该工具包提供 11 种威胁检测器，以解决提示注入、越狱和个人身份信息 (PII) 泄露等问题。它与 Express 和 Hono 等流行的 Node.js 框架集成，为以前在 JavaScript 生态系统中缺乏强大选项的开发人员提供了一个安全解决方案。
-
新的 CBOM 规范旨在为 LLM 提示带来类似 SBOM 的可追溯性
作者提出了上下文物料清单 (CBOM)，这是一个开放规范和 SDK，旨在解决输入到大型语言模型的数据缺乏可审计溯源性问题。类似于用于软件供应链安全的软件物料清单 (SBOM)，CBOM 为每个提示提供一个清单，详细说明检索数据的来源、内容哈希、转换和敏感性。这旨在提高透明度，帮助调试提示注入等问题，并满足欧盟人工智能法案的记录保存义务等监管要求。
-
印度 DPDP 法案加剧了离岸工程中心的 डेटा隐私合规风险
随着《数字个人数据保护法》(DPDP Act) 的实施，在印度设有离岸工程中心的公司面临着日益严格的审查和潜在的处罚。该法案要求本地实体直接承担数据治理责任，超越了标准的公司 IT 政策。不合规可能导致巨额罚款和运营中断，影响产品开发和全球数据流。
-
LLM 防护栏：保护 AI 应用免受提示注入和数据泄露的侵害
LLM 防护栏是保护 AI 应用的关键，它们充当用户输入和语言模型之间的保护层。这些防护栏有助于防止提示注入攻击（恶意指令会覆盖系统提示）的发生，并能检测和删除 PII 或 API 密钥等敏感数据。此外，它们还能强制执行内容策略，确保 AI 的响应符合组织指南，并防止机密信息泄露。
-
LLM评估必须权衡失败的严重性，而不仅仅是通过率
最近一次LLM部署中发生了PII泄露事件，一个代理在支持回复中意外包含了客户的账户ID和部分账单地址。尽管评估仪表板显示通过率为94%，但仍发生了此事件。该问题凸显了LLM评估中单一、扁平的通过率指标的不足，因为它未能区分各种失败的严重程度。例如，PII泄露的后果远比措辞冗长或语气不正确等小问题严重得多。
-
特朗普的国家设计工作室开源Rampart AI模型
唐纳德·特朗普的国家设计工作室（National Design Studio）已开源Rampart，一个基于MiniLM的AI模型。此次发布允许全球访问源代码，使用户能够了解AI如何存储检测到的个人身份信息（PII）。该模型的会话表包含PII标签、值和令牌对，可以通过浏览器缓存访问，这是包括Hugging Face在内的许多网站使用的方法。
-
新测试平台LACUNA评估LLM遗忘的参数级精确度
研究人员推出LACUNA，一个旨在评估大型语言模型（LLM）遗忘方法精确度的新型测试平台。当前的遗忘基准仅关注输出级性能，未能验证敏感数据是否已从模型参数中真正删除。LACUNA通过将个人身份信息（PII）注入OLMo模型特定参数来解决此问题，从而可以直接评估知识擦除情况。使用LACUNA进行的实验显示，现有的最先进遗忘方法缺乏精确度，并且容易受到重新出现攻击，即使它们表现出强大的输出性能。研究表明，成功的参数定位，即使是使用更简单的…