谷歌在其新推出的AI驱动的Google Earth功能上线不到一天后就将其停用，原因是用户生成了不当和误导性的图像。该功能集成了名为Nano Banana 2的生成式AI技术，并与真实的卫星和航空视图相结合，允许用户创建和编辑AI生成的场景。尽管有水印和SynthID技术等安全措施，用户还是迅速利用该工具制造了虚假的灾难、虚假的军事设施和虚假信息，促使谷歌下架了该功能。 AI
影响 凸显了将生成式AI与真实世界数据相结合的挑战，可能会减缓类似功能的采用。
排序理由 文章讨论了因滥用而停用集成到现有产品中的AI功能，而不是发布新的AI模型或核心研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
