江苏
文｜陆弃
2026年7月30日，谷歌宣布在Google Earth网页版推出AI图像生成功能，用户可以在地图任意位置输入文字指令，由模型Nano Banana 2基于真实卫星、航空和三维影像生成重构图像。然而，这项功能上线不到一天便被紧急回滚。开源调查研究人员测试发现，只需输入简单指令，系统就能在真实地理位置生成虚假的难民营、核设施、爆炸痕迹等场景，并且部分生成结果未触发限制机制。面对可能被用于制造虚假信息的风险，谷歌不得不暂停功能并重新评估安全措施。
这场短暂上线又迅速撤回的事件，表面上是一次人工智能产品安全事故，背后却暴露出生成式AI进入现实空间后面临的新挑战。过去，人们讨论AI风险更多集中在文字、图片和视频造假，而Google Earth这样的地理信息平台具有特殊属性，它连接的是现实世界的位置、环境和空间关系。当生成式AI开始直接改写人们对真实地点的视觉认知时，问题已经不再只是“图片真假”的判断，而是现实世界的信息可信度如何维持。
谷歌推出这一功能的初衷并非制造虚假场景，而是希望将AI应用于教育、建筑设计和城市规划。例如模拟城市改造、还原历史遗迹、展示未来建筑效果，这些应用确实具有价值。生成式AI能够快速完成过去需要大量人工建模和渲染的工作，提高规划效率，也降低了专业工具使用门槛。从技术发展角度看，将AI与地理数据结合，是自然的发展方向。
但问题在于，真实地理数据与生成能力结合后，风险也被同步放大。传统地图和卫星影像之所以具有重要价值，是因为它们被认为接近现实记录。新闻调查、军事分析、灾害评估等领域长期依赖公开地理信息判断事实。一旦同一个平台既提供真实影像，又允许用户生成高度相似的虚假场景，普通用户甚至专业人员都可能面临更高的信息辨别成本。
此次测试中出现的“在伊朗增加核设施”“在医院附近生成爆炸痕迹”等案例，之所以引发关注，并不是因为这些图像本身具有多高的制作水平，而是因为它们依托真实地点背景，天然具有更强的迷惑性。一张普通的AI图片可能被认为是假象，但一张基于真实地图位置生成的图片，更容易被包装成“现场证据”。在国际冲突、外交争议和安全事件中，这种技术可能成为制造舆论混乱的新工具。
近年来，人工智能生成内容已经不断进入公共传播领域。虚假视频、伪造声音、合成图片正在降低制造错误信息的成本。过去，制造一场虚假舆论事件需要较高技术门槛，如今普通用户也可能借助公开工具完成高度逼真的内容生产。Google Earth AI功能出现的问题，进一步说明生成式AI正在从数字空间进入现实空间，风险范围正在扩大。
谷歌此次处理方式，也反映出大型科技企业面对AI安全问题时的两难。一方面，企业希望快速推出创新功能，在竞争激烈的人工智能市场占据优势；另一方面，涉及现实世界信息的平台必须承担更高责任。对于普通图像生成工具而言，一次错误生成可能只是内容质量问题，但对于地图、搜索、新闻等具有信息权威属性的平台而言，错误可能影响公众认知甚至现实决策。
谷歌此前在Gemini人物图像生成方面也经历过类似问题。2024年，该功能因生成历史背景不准确的人物图像而暂停，随后经过整改重新开放。这表明AI系统的问题并不总是来自技术能力不足，而是来自模型生成逻辑与现实规则之间的冲突。人工智能可以快速创造内容，却并不天然理解内容背后的社会影响。
未来，类似功能是否能够重新开放，关键不在于限制AI创造能力，而在于建立更加严格的使用边界。对于涉及地理空间、政治、安全和公共事件的信息生成，企业需要更加完善的审核机制，包括更清晰的内容标识、更可靠的溯源技术、更严格的高风险场景限制。仅依靠水印或事后检测，很难完全阻止虚假内容传播。
更深层的问题是，当人工智能拥有越来越强的“制造现实”能力，人类如何重新定义可信信息。在过去，技术帮助人们更接近事实；而未来，技术也可能让事实与虚构更加难以区分。真正需要提升的，不只是算法能力，还有整个社会面对信息环境变化时的判断能力。
谷歌地球AI功能的快速撤回，并不是人工智能发展的倒退，而是一次现实提醒。技术创新可以加速，但信任建设不能被忽视。当一条指令就能改变一张地图上的“现实”，人类需要重新思考的不只是AI能做什么，更是哪些事情即使技术可以做到，也必须保持克制。未来人工智能竞争的核心，不仅是生成能力的竞争，也是责任边界的竞争。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
