Coalition for Content Provenance and Authenticity
PulseAugur coverage of Coalition for Content Provenance and Authenticity — every cluster mentioning Coalition for Content Provenance and Authenticity across labs, papers, and developer communities, ranked by signal.
- founded by Adobe 100%
- founded by Microsoft 100%
- developed content credentials 90%
- used by SynthID 70%
- affiliated with SynthID 70%
- instance of content credentials 70%
- uses Nano Banana 70%
- used by Artificial Intelligence Act 70%
- affiliated with European Union 70%
- uses SynthID 60%
- affiliated with Artificial Intelligence Act 50%
13 天有情绪数据
C2PA will explore methods to make Content Credentials more resilient to minor edits within 6 months
Given the fragility of C2PA's Content Credentials to minor edits, it's likely the coalition will investigate solutions. This could involve developing more flexible hashing mechanisms or complementary systems that can tolerate small alterations while still maintaining verifiable provenance. Such an update would be crucial for broader adoption in workflows involving frequent content manipulation.
C2PA's Content Credentials may be undermined by minor edits
The C2PA specification for Content Credentials, while providing verifiable origin and modification records, has a critical limitation: even minor edits like cropping or re-encoding can invalidate the cryptographic signature. This means that legitimate content modifications could lead to a loss of verifiable provenance, potentially reducing user trust and adoption.
C2PA will integrate 'soft redaction' techniques to protect sensitive provenance data within 1 year
The recent development of 'soft redaction' using zero-knowledge proofs (ZKPs) to protect sensitive image provenance data presents a clear opportunity for C2PA. Integrating such a method would allow C2PA to offer provenance verification while safeguarding underlying sensitive details, aligning with growing privacy concerns and the need for robust content authentication across various media types.
EU AI Act's deepfake labeling mandate may drive adoption of C2PA standards
The EU AI Act's enforcement, which includes mandates for deepfake labeling and significant penalties, creates a strong regulatory push for verifiable content provenance. C2PA's Content Credentials offer a mechanism for such verifiable records. This regulatory pressure could accelerate the adoption of C2PA standards as a compliance solution for AI-generated or manipulated media within the EU.
C2PA's Content Credentials may face interoperability challenges with existing AI watermarking solutions
While C2PA's Content Credentials provide provenance records, recent evidence shows AI voice apps and OpenAI's SynthID are focusing on watermarking for audio origin proof. The C2PA specification's strict hashing mechanism could conflict with or be bypassed by these watermarking techniques, potentially leading to fragmented provenance tracking across different AI-generated media types.
-
开源工具移除AI水印和元数据
一个名为 ShadowAqueduct/watermark-remover 的 GitHub 项目因其移除AI生成水印的能力而受到关注。该工具通过清理隐藏的Unicode字符和剥离C2PA元数据来针对来自不同供应商的水印，从而使AI生成内容更难被检测。
-
Google 的 Backstory AI 工具加速图像事实核查
Google DeepMind 开发了一款名为 Backstory 的 AI 工具，旨在帮助记者和事实核查人员快速确定图像是否由 AI 生成并追溯其来源。该工具分析图像，检查 SynthID 等 AI 水印，并检查 C2PA 等标准的元数据。它还调查图像的在线历史和背景，并引用来源生成报告。虽然仍处于有限的测试阶段，但 India Today 等组织正在使用 Backstory 来简化其事实核查流程，显著减少了初步调查所需的时间。
-
新工具 Provcheck Backfire 使水印移除尝试适得其反
一位开发者创建了一个名为 Provcheck Backfire 的新工具，旨在对抗数字内容上的水印移除尝试。该工具旨在使水印剥离尝试适得其反，从而增加一层安全性和真实性验证。
-
Anthropic 在 Claude 文本中嵌入不可见水印，新工具可检测
Anthropic 已开始在其 Claude 模型生成的文本中嵌入不易察觉的水印，此举是响应欧盟人工智能法案关于人工智能生成内容透明度的行为准则。这些水印旨在经受复制粘贴的考验，并应用于所有 Claude 界面和集成。新模型将从 2026 年 8 月 2 日起带有此标记，旧模型也将进行改造。一款名为“no-watermark”的新工具已被开发出来，用于检测和移除这些不可见字符以及其他风格上的线索，但它不处理统计令牌分布水印。
-
Anthropic 的 Claude 聊天机器人将在全球嵌入不可见的 AI 文本水印
Anthropic 将在其 Claude 聊天机器人中实施不可见的文本水印，以遵守欧盟《人工智能法案》的要求。该法案规定需要机器可读的方式来识别 AI 生成的内容。这种方法基于 Google DeepMind 的 SynthID-Text，通过嵌入词语选择中的统计模式来实现，而不是改变文本的外观或质量。此功能的全球推出是出于监管要求，旨在超越不可靠的风格检测方法，实现对 AI 生成的可靠证明。
-
Google Gemini允许用户禁用可见AI水印
Google推出了一项更新，允许用户禁用由其Gemini工具生成的AI内容的可见水印。虽然可见的“闪光”水印可以关闭，但Google将继续使用SynthID和内容来源与真实性联盟（C2PA）标准嵌入不可见水印。此举与其他AI开发者（如OpenAI和Meta）的做法一致，它们也依赖不可见水印进行内容验证。
-
Google 允许用户移除可见 AI 水印，引发争议
Google 正在推出一项功能，允许用户移除 AI 生成内容（包括图像、视频和音频）上的可见水印。虽然这为用户提供了更多的创意控制权，但也引发了对合成媒体和虚假信息传播的担忧。该公司表示，SynthID 和 C2PA 元数据等不可见水印将保持不变，以确保透明度和可验证性，从而在创意自由和安全之间取得平衡。此项更改正在全球范围内推出，但在欧盟和韩国等地区除外，因为这些地区的法律规定必须使用可见水印。
-
Anthropic 将使用 C2PA 标准为 Claude AI 输出添加全局水印
Anthropic 计划为其 Claude 模型生成的所有输出实施全局水印。该计划将从 2026 年 8 月开始将标签直接集成到新模型中，并随后支持第三方检测工具。水印系统将利用 C2PA 标准来确保内容的来源。
-
Anthropic将在Claude生成的内容中嵌入隐形水印
Anthropic宣布计划在其AI聊天机器人Claude生成的文本中嵌入隐形水印。这项倡议部分受到欧盟《人工智能法案》的推动，还将为图像和其他文件添加符合C2PA标准的数据，以表明其来源。水印将应用于所有Claude模型，而不仅仅是欧盟使用的模型，并将整合到包括API访问在内的各种Claude服务和平台中。
-
Apple 将推出 iPhone 照片认证功能以对抗深度伪造
据报道，Apple 正在为 iOS 开发一项名为“Apple Reference Image”的新功能，旨在认证 iPhone 拍摄的照片。该系统将在拍摄时嵌入元数据，允许用户验证图像是否源自 iPhone 相机且未被 AI 篡改。该功能已在 iOS Beta 版中发现，用户需要启用“Reference Mode”并点击照片上的徽章，将其发送到 Apple 的 Private Cloud Compute 服务器进行验证，服务器将返回带…
-
Anthropic 推出不可见 AI 文本水印以遵守欧盟人工智能法案
Anthropic 已开始在其 Claude 模型中实施不可见水印，以识别 AI 生成的文本和图像，从而遵守欧盟人工智能法案。这项技术与 Scott Aaronson 等研究人员合作开发，在模型的标记选择中嵌入细微的模式，使其能够通过特定密钥检测到，而不会影响输出质量。虽然 Google 已为 Gemini 使用了类似的系统，OpenAI 也计划效仿，但这些水印的有效性仍存在争议，已有工具出现可以去除它们，这引发了关于归属和 AI 内…
-
欧盟AI法案第50条生效：AI标签构成工程挑战
欧盟AI法案第50条现已生效，要求对生成内容或与用户交互的AI系统进行清晰标记。该规定适用范围广泛，即使是非高风险应用，如聊天机器人和图像生成器，不合规将面临严厉处罚。主要挑战在于为AI生成内容实现机器可读且稳健的标记技术的工程实现，因为目前的元数据和水印等方法在实际条件下往往失效，而文本标记在很大程度上仍未解决。
-
AI视频生成需要来源追溯和内部工作流程管理
本文讨论了AI生成视频中内容来源追溯和真实性的重要性，强调除了技术跟踪之外，还需要清晰的内部工作流程。文章指出，虽然C2PA和Content Credentials等标准可以追踪资产的来源和修改，但它们无法验证内容的真实性或准确性。作者提出了一种包含六个关键字段的内部“来源卡”系统来管理草稿，包括来源链接、目的、许可记录、草稿决策、谁提供了来源以及情节边界，以防止未完成的作品被误认为是最终输出。
-
Anthropic 在 Claude AI 输出中嵌入隐形水印以满足欧盟法规
Anthropic 正在为其 Claude AI 模型生成的文本实施隐形水印，以遵守欧盟的《人工智能法案》。这种方法改编自 Google DeepMind 的 SynthID-Text，会微妙地改变词语选择的概率，而不影响输出质量或成本。虽然水印旨在让普通读者无法察觉，但 Anthropic 将提供一个 API 供第三方验证 Claude 是否参与了文本生成。该系统存在局限性，包括难以检测编辑或翻译以及代码生成可能出现的问题，但 An…
-
Anthropic 全球嵌入不可见文本水印以遵守欧盟人工智能法案
Anthropic 已开始在其所有 Claude 模型生成的文本中嵌入不可见水印，此举是出于欧盟人工智能法案的透明度要求。这种不可见标记是文本本身的一部分，旨在通过复制、粘贴和一些编辑来保留，尽管 Anthropic 声称它不会影响输出质量或可读性。该公司还根据 C2PA 标准为图像和 SVG 等生成的图像实施签名元数据。虽然旨在提高透明度并帮助识别人工智能生成的内容，但其实施因可能标记用户编辑过的文本以及缺乏明确的选择退出或简便的移…
-
Anthropic 将通过水印和元数据在全球范围内标记 AI 生成的内容
Anthropic 正在实施一项系统来标记其 Claude 模型生成的 AI 内容，以符合欧盟《人工智能法案》关于人工智能生成内容透明度的行为准则。于 2026 年 8 月 2 日或之后推出的新模型将在文本中嵌入机器可读的标记，包括不易察觉的水印，并在文件中嵌入签名的来源元数据，这些标记将全球适用于各种 Claude 平台。虽然现有模型正在进行改造，但该公司还将提供工具和文档来帮助用户检测这些标记。
-
AI照片编辑需要详细的简报才能被接受
本文讨论了在使用AI照片编辑工具之前创建详细简报的重要性，以确保满意的结果。它强调，“使其更整洁”之类的模糊指令不足以满足适当的验收标准。全面的简报应指定目标区域、预期更改、目标区域外的受保护细节、参考或对照片段以及明确的拒绝规则。文章还提到了内容来源和真实性联盟（C2PA）和内容凭证，并指出虽然它们提供了来源信息，但它们并不验证内容本身的真实性，因此结构化的简报对于编辑接受至关重要。
-
新方法使用零知识证明来 redaction 敏感的图像来源数据
研究人员开发了一种称为“软 redaction”的方法来保护图像来源数据中的敏感信息。该技术使用零知识证明 (ZKP) 来验证图像来源的特定属性，而无需泄露底层的敏感细节。所提出的系统可以使用切比雪夫多项式证明与参考点的接近程度，验证与生物特征嵌入的相似性以进行隐私保护的权利执行，并通过证明与水印指纹的视觉相似性来支持反欺骗。这些基于 ZKP 的证明旨在快速构建和高效验证，为在 C2PA 等数字图像来源标准中增强隐私和维护信任提供了一…
-
新的 HaloMark 水印技术可保护嵌入向量免受篡改
研究人员开发了 HaloMark，一种新颖的水印技术，旨在将嵌入向量加密绑定到内容来源清单，特别解决了现有图像和音频方法的局限性。与依赖稳定比特级身份的传统水印不同，HaloMark 能抵抗量化和微调等常见的改变嵌入向量的转换。该系统结合了标准加密原语和协议更改，生产者将局部敏感哈希 (LSH) 的承诺签名到清单中，验证者读取该签名而不是重新计算。评估表明，在各种攻击下具有很高的检测准确率，AUROC 为 0.98 或更高，并且可以作…
-
OpenAI 的 Astra 解决数学难题；欧盟 AI 法案开始执行；发布快速移动模型
OpenAI 的内部模型，代号为 Astra，据报道已解决 10 个长期存在的数学和理论计算机科学问题，并生成了可机器验证的证明，计算成本约为 2000 美元。与此同时，欧盟的 AI 法案已开始全面执行，强制要求聊天机器人披露信息和深度伪造标签，违规者将面临严厉处罚。在另一项进展中，DeepGrove 发布了一个名为 Maple-Preview 的开源模型，该模型利用三元权重在 iPhone 等消费设备上实现高推理速度。