谷歌宣布暂停 Google Earth 新上线的 AI 图像生成功能。该功能上线不足48小时便因潜在的虚假信息风险被暂时关闭,官方表示将进一步加强安全防护措施。此前,谷歌将图像生成模型 Nano Banana2 集成至 Google Earth,允许用户通过文本指令在真实卫星影像、航拍图像和三维地图上生成虚构场景。

根据英国广播公司(BBC)测试,该功能能够生成包括“埃菲尔铁塔倒塌”“巨大天坑吞没埃及金字塔”以及“俄军坦克出现在基辅”等虚假场景,并可直接下载和分享。这类AI生成内容与真实地理坐标及Google Earth底图结合后,具有较强的真实性,容易被误认为是真实卫星影像。
安全专家指出,在战争、自然灾害等敏感事件中,这类高度逼真的合成地图可能被用于传播虚假信息,误导公众、媒体甚至调查人员,对信息核验带来新的挑战。
谷歌表示,所有AI生成图像均嵌入了隐形数字水印,并支持通过 Gemini 或 Google Lens 进行真实性验证。不过,BBC测试发现,部分验证机制仍存在被绕过的可能,一些第三方检测工具也无法稳定识别AI生成内容。
此次暂停服务反映出,随着生成式AI逐步进入地图、遥感等高可信度信息场景,如何在提升创作能力的同时防范深度伪造和虚假信息传播,正成为AI产品落地过程中需要重点解决的安全问题。