Google 和 Meta 近期发布的 AI 图像生成工具因可预见的滥用而被迅速撤下或限制。Google 的 Google Earth 工具允许用户创建特定地点的合成图像，然后利用这些图像生成虚假的事件证据，例如难民危机或爆炸事件。Meta 的一项功能，与其 Muse 图像模型相关联，允许用户在未经账户所有者通知的情况下引用公开的 Instagram 账户来生成 AI 图像，引发了同意问题。两家公司都承认了滥用行为，并表示正在实施更强的安全措施，专家指出，这已成为 AI 图像生成工具的常见模式。 AI
影响 AI 图像生成工具的发布持续存在可预见的滥用潜力，凸显了在公开发布前实施有效安全措施的持续挑战。
排序理由 文章讨论了 Google 和 Meta 因滥用而发布并随后撤回 AI 图像生成功能，这属于产品发布及其相关的安全问题范畴。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
