PulseAugur
中
实时 10:32:05
实体 Pii

Pii

PulseAugur coverage of Pii — every cluster mentioning Pii across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
15
90 天内 68
发布 · 30天
0
90 天内 0
论文 · 30天
8
90 天内 25
层级分布 · 90 天
主题
关系
情绪 · 30 天

7 天有情绪数据

最近 · 第 1/4 页 · 共 72 条
  1. TOOL · CL_367359 ·

    新基准评估马来西亚语言的AI文本匿名化

    研究人员已将RAT-Bench基准扩展到评估马来西亚的文本匿名化技术,使用了本地微数据和PII格式。该研究侧重于马来西亚英语和马来语,评估了命名实体识别(NER)和基于LLM的匿名化器。基于LLM的匿名化器在隐私和效用之间取得了最佳平衡,降低了重新识别风险,同时保持了高文本效用,而非LLM工具则显示出更极端的权衡。

  2. TOOL · CL_354308 ·

    源自 Microsoft 的 PII 删除工具 Presidio 已迁移至独立的 Data Privacy Stack 组织

    Presidio 是一个用于检测和删除个人身份信息 (PII) 的开源框架,已从 Microsoft 迁移到独立的 Data Privacy Stack 组织。该工具提供两个核心文本模块:presidio-analyzer,它使用正则表达式模式和 SpaCy 等 NLP 引擎识别 PII;presidio-anonymizer,它替换、屏蔽或加密已识别的数据。这使得在将敏感信息发送到 LLM 或记录之前对其进行清理,从而增强数据隐私。…

  3. TOOL · CL_344124 ·

    新研究比较了 LLM 管道的 PII 匿名化方法

    一篇新研究论文比较了在将文本发送给大型语言模型 (LLM) 之前匿名化个人身份信息 (PII) 的四种方法。该研究评估了纯正则表达式 (regex)、Microsoft Presidio 以及两种混合方法。虽然 regex 最快,但其 PII 匿名化准确率仅为 88.9%。混合方法,包括一种直接使用 spaCy 的命名实体组件的方法,实现了 100% 的 PII 匿名化并保留了业务术语,其中最快的混合方法仅为典型的 LLM 调用增加了…

  4. TOOL · CL_326896 ·

    新框架ReCoPII改进了PII掩码数据集的创建

    研究人员开发了ReCoPII,一个用于创建上下文PII(个人身份信息)掩码数据集的新型框架。该框架通过规划实体关系、生成带占位符的句子以及使用LLM进行验证,解决了现有方法的局限性,从而避免了对单一数据主体的假设。由此产生的ReCoPII-Ko语料库在韩语文档上进行了验证,显示出高标注者一致性,并能生成比以往方法过掩更少的分类器。

  5. TOOL · CL_325486 ·

    reskSecure推出LLM防火墙以防止PII泄露

    一款名为reskSecure的新型安全工具已被推出,用于保护客户支持AI助手免遭敏感数据泄露。该工具充当LLM防火墙,在令牌预测级别阻止禁止的短语和未经授权的工具调用,然后才生成它们。本教程演示了如何通过定义具有权限位掩码的策略并将logits处理器加载到生成管道中来集成reskSecure。

  6. TOOL · CL_324666 ·

    新研究揭示代码LLM中存在类型依赖的隐私风险

    一篇新发表在arXiv上的研究论文探讨了代码大型语言模型(LLM4Code)相关的隐私风险。该研究由Hua Yang撰写,调查了这些模型如何学习和泄露不同类型的个人身份信息(PII)。研究结果表明,泄露风险因PII类型而异,例如IP地址等易于学习的数据比密钥和密码等复杂数据更容易泄露。这项研究首次提供了类型依赖泄露的因果证据,并提出了为LLM4Code开发更有效隐私防御方法。

  7. TOOL · CL_321142 ·

    LLM PII 处理:用于 GDPR 合规性的标记化与屏蔽对比

    一种处理大型语言模型 (LLM) 提示中个人身份信息 (PII) 的新方法涉及可逆标记化,该方法在将请求发送给 LLM 之前用占位符标记替换敏感数据。与可能降低答案质量的简单屏蔽不同,此方法保留了数据的结构,使 LLM 能够推理实体之间的关系。根据 GDPR,标记化数据被视为假名化数据,并且最近的欧盟法院裁决表明,如果接收此类数据的提供商无法逆转标记化,则可能不将其视为个人数据。

  8. TOOL · CL_318893 ·

    PgSafe MCP 保护 LLM 对 PostgreSQL 数据库的访问

    一款名为 PgSafe MCP 的新开源工具已被开发出来,用于增强像 Claude Desktop 和 Cursor 这样的语言模型连接到 PostgreSQL 数据库的安全性。该工具解决了三个主要风险:破坏性修改、可能使数据库过载的无界查询以及个人身份信息 (PII) 的泄露。PgSafe MCP 通过三层方法实现这一点:通过解析 SQL 抽象语法树 (AST) 来阻止危险命令,强制执行只读访问;通过在执行前分析查询的估计成本来防止…

  9. COMMENTARY · CL_313218 ·

    AI从任务自动化转向工作流编排,需要强大的安全防护措施

    文章讨论了AI不断发展的格局,区分了任务自动化和工作流编排。代理式AI被呈现为一种管理复杂工作流的工具,通过评估结果并决定下一步行动,而不仅仅是加快单个任务的速度。这种方法在金融和税务等受监管的行业中至关重要,在这些行业中,人类判断和明确的界限是必不可少的。另外,组织中的“智能”概念被重新定义,从部门职能转变为一种统一的学科,这得益于AI连接不同数据源和克服先前数量限制的能力。此外,还强调了AI系统强大的安全措施的重要性,并指出提示是…

  10. TOOL · CL_307934 ·

    新框架通过可逆伪匿名化保护LLM交互中的PII

    提出了一种名为Veil-then-Reveal (VtR)的新框架,用于在与大型语言模型 (LLM) 的交互中保护个人身份信息 (PII)。这种用户端方法旨在通过在敏感数据离开用户设备之前对其进行伪匿名化,来防止将敏感数据发送到远程LLM提供商的风险。VtR用逼真的替代物替换PII,同时保留语言和结构属性,并允许在LLM响应中可逆地恢复原始PII。

  11. TOOL · CL_307887 ·

    新的PII检测器以更低的成本实现高召回率 · arXiv研究

    研究人员开发了一种新的PII检测模型,该模型既广泛又高效,解决了现有检测器通常依赖复杂架构和有限合成数据集的局限性。该新模型在77个公共数据集的百万个以上示例上进行训练,并在统一定义下重新标记,与较大的基线相比,在AI4Privacy和Nemotron-PII等关键基准上实现了更高的召回率。值得注意的是,它以显著更低的计算成本实现了这一点,吞吐量提高了2-10倍,并且所需的GPU内存大大减少。

  12. TOOL · CL_307804 ·

    新的JEPA-Prune方法以最小的效用损失移除了微调LLM中的PII

    研究人员开发了一种名为JEPA-Prune的新方法,以解决微调后大型语言模型(LLM)中的隐私问题。该技术旨在移除个人身份信息(PII),同时不显著降低模型的性能。JEPA-Prune使用联合嵌入预测架构(JEPA)在无PII的数据上训练一个参考模型,使其能够识别并修剪微调模型中的PII特定神经元。实验表明,修剪少量神经元可以显著降低PII推理准确性和提取召回率,同时保持效用。

  13. TOOL · CL_300715 ·

    新的PrivacyGuard系统显著减少了云GUI代理器中的PII泄露

    一篇新的研究论文介绍了一个名为PrivacyGuard的系统,该系统旨在保护云GUI代理器与远程规划器交互时涉及的个人身份信息(PII)。PrivacyGuard采用源链接清理和结构化引用生命周期来重构和重写PII,与以前的方法相比,数据泄露减少了高达82.60%。该系统还提高了Android平台上的任务连续性和成功率,在多项基准测试中优于现有的保护管道。

  14. TOOL · CL_288942 ·

    LLM 集成指南:SaaS 的版本控制、监控和安全

    本文提供了将大型语言模型 (LLM) 集成到生产 SaaS 应用程序的实用建议。它强调将提示视为代码,在 Git 中对其进行版本控制,并实施批量请求策略以管理 API 速率限制和成本。该指南还涵盖了基本实践,例如实施带有退避机制的重试机制,使用 Prometheus 或 Datadog 等工具监控延迟和错误率,以及通过屏蔽或哈希 PII 来保护敏感数据,然后再将其发送给 LLM 提供商。最后,它建议在暂存环境中进行彻底测试,并使用功能…

  15. TOOL · CL_288145 ·

    LLM 可观测性:追踪关键信号以安全部署 AI

    为大型语言模型 (LLM) 实施可观测性对于安全可扩展的 AI 应用开发至关重要。这包括集成 OpenTelemetry 等工具,直接在生成管道中追踪延迟、Token 使用量、成本和错误等关键信号。虽然传统可观测性侧重于系统指标,但 LLM 可观测性扩展到模型特定的输出来评估即使是看似成功的响应的正确性和效率。开发人员可以构建自定义的仪器包装器来捕获这些信号,提供通常不可见的洞察力,并实现主动监控和警报。

  16. TOOL · CL_285606 ·

    MuleSoft 代理流程测试策略在五个层面详细介绍

    本文详细介绍了在 MuleSoft 上构建的代理变更审批系统的全面测试策略。文章概述了一种五层测试方法,首先是对单个工具和错误处理进行确定性的 MUnit 测试,然后在网关处进行策略测试以确保访问控制和数据隐私。场景测试验证代理图中的路由逻辑,而使用历史请求黄金数据集进行的评估则评估代理推理的性能。最后,在测试环境中对真实场景请求进行人工审批,这是部署前的最终环节。该过程强调为质量保证团队创建可审计的证据包,确保所有测试都在非生产环境…

  17. TOOL · CL_277574 ·

    新型防火墙工具保护客服LLM免遭个人身份信息泄露

    一款名为Resk的新型开源工具已被开发出来,用作客服AI助手的防火墙,防止个人身份信息(PII)泄露。该工具使用FastAPI和React构建,位于用户和LLM提供商之间,提供基于角色的访问控制(RBAC)、策略过滤和工具门控等功能。本教程演示了如何部署Resk以保护敏感客户数据不被恶意提示或受损的工具访问泄露。

  18. TOOL · CL_275104 ·

    New Locket Framework Enhances LLM Privacy and Access Control

    研究人员开发了一个名为 Locket 的新框架,以增强大型语言模型 (LLM) 的安全性和隐私性。Locket 使用轻量级适配器,每个适配器都与特定的访问策略相关联,并使用一个采用学习到的密钥入口令牌来路由请求的门控模块。该系统允许对私有数据的访问进行细粒度控制,从而实现诸如 PII 屏蔽或差分隐私等功能,而不会显著影响模型的效用。实验表明,Locket 在获得授权时,性能与在原始数据上进行微调相当,同时在未经授权时能有效减少 PII 泄露。

  19. TOOL · CL_297838 ·

    Hugging Face 论文揭示参考选择会极大地改变基准分数

    Hugging Face 的一篇新论文强调了多语言基准评分中的一个重大问题,表明参考数据的选择会极大地改变基准结果。研究人员发现,通过简单地更换参考标签,基准分数在总体上可以改变高达 4.95 个 F1 分数点,在特定语言中可以改变 7.55 个分数点。这种敏感性归因于一个未公开的聚合默认设置,该设置无意中使已发布的黄金标准成为被评分系统输出的部分副本。该论文建议在基准分数旁边报告一个“参考敏感性范围”,以提供更全面的性能图景。

  20. TOOL · CL_259557 ·

    AI聊天机器人护栏缺陷:不完整的监控暴露个人身份信息泄露

    一位开发者发现其AI聊天机器人的护栏系统中存在一个关键的安全漏洞,导致敏感客户数据被泄露。尽管有四个客户的电子邮件地址被发送到浏览器,但该系统错误地报告称个人身份信息(PII)攻击已被阻止。这是因为护栏仅监控助手的文本输出,而未监控包括工具结果在内的完整数据流。