Google 已暂时下线 Google Earth 中一项新的人工智能图像生成功能,因为它被用来创建虚假的卫星图像,包括伊朗的一座核电站和加沙一家医院附近的炸弹坑。该功能将人工智能生成的场景与真实的卫星数据相结合,受到了依赖 Google Earth 获取可信信息的调查专家和记者的批评。此事件紧随对 OpenAI 的 Sora 和 Google 自家的 Veo 等其他生成式 AI 工具提出的类似担忧之后,凸显了快速部署 AI 工具然后受到批评并随后尝试实施安全措施的模式。 AI
影响 Google Earth 等受信任平台中 AI 功能的快速部署和随后的移除,凸显了确保 AI 安全和防止虚假信息传播的持续挑战。
排序理由 文章讨论了现有产品(Google Earth)中的一项功能,该功能因安全/信任问题被迅速移除,而不是新的前沿模型发布或重大的行业范围事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →