应欧盟《人工智能法案》的要求,OpenAI 已开始在欧盟地区通过ChatGPT和Codex生成的文本中植入不可见水印。这项TextGrain技术通过在词语选择中嵌入统计信号,可被专用算法检测,但通过同义词替换等微小编辑会显著降低其有效性。OpenAI 将此举称为防止虚假信息和欺诈的安全措施,但批评者质疑其潜在的监控和控制用途,并指出简单的文本修改就能大大削弱或消除水印。开发者可以选择在全球API使用中启用水印,但默认情况下是关闭的。 AI
影响 此功能旨在解决对AI生成虚假信息和学术欺诈的担忧,尽管其对简单编辑效果有限,引发了对其效用的质疑。
排序理由 这是由一家主要AI实验室推出的产品功能,但被定位为合规举措,且其有效性受到质疑,因此更像是一个工具/功能更新,而非前沿发布。
- OpenAI
- Adam Telle
- ChatGPT
- Claude
- Codex
- European Union
- Gen. Christopher LaNeve
- Meta
- Microsoft
- SynthID
- textGrain
- United States Army
- Wikimedia Foundation
- GRID
AI 生成摘要 · Google Gemini · 来自 6 个来源。 我们如何撰写摘要 →