PulseAugur
中
实时 12:13:38
English(EN) Clio’s $500M milestone arrives just as Anthropic ups the ante

大型语言模型无法可靠识别姓名，影响隐私工具

作者 PulseAugur 编辑部 · [2 个来源] ·

一项新的基准测试 AmBench 显示，大型语言模型在可靠识别姓名方面存在困难，而姓名是隐私保护工具的关键组成部分。研究人员发现，大型语言模型会错误处理模糊的姓名，与更易识别的姓名相比，召回率下降了 20-40%。这种不均衡的隐私保护引发了公平性担忧，尤其是在提示注入导致大型语言模型忽略姓名时，正如 Anthropic 的 Clio 工具中所见。 AI

影响 基于大型语言模型的隐私工具可能因姓名识别失败而提供不一致的保护，需要新的对策。

排序理由 该集群围绕一篇介绍基准测试以评估大型语言模型在特定任务（姓名识别）上性能的新学术论文。

在 TechCrunch AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

大型语言模型无法可靠识别姓名，影响隐私工具

报道来源 [2]

  1. arXiv cs.AI TIER_1 English(EN) · Dzung Pham, Peter Kairouz, Niloofar Mireshghallah, Eugene Bagdasarian, Chau Minh Pham, Amir Houmansadr ·

    大型语言模型真的能识别你的名字吗？

    arXiv:2505.14549v3 Announce Type: replace-cross Abstract: Large language models (LLMs) are increasingly being used in privacy pipelines to detect and remedy sensitive data leakage. These solutions often rely on the premise that LLMs can reliably recognize human names, one of the …

  2. TechCrunch AI TIER_1 English(EN) · Marina Temkin ·

    Clio 达成 5 亿美元里程碑，恰逢 Anthropic 提高赌注

    Legal tech startups, including Clio, which just hit $500 million in ARR, are seeing massive customer adoption.

相关实体

相关话题