网易首页 > 网易号 > 正文 申请入驻

大西洋月刊:谷歌刚刚毁掉了它最重要的工具

0
分享至

谷歌地球曾是研究人员的福音——但随后出现了深度伪造技术。

作者:Matteo Wong


利用谷歌地球生成的AI图像显示了多起捏造的暴力事件。 (插图来自《大西洋月刊》。来源:谷歌地球。)

2026年7月31日下午5:36(美国东部时间)

今天早些时候,我用谷歌地球看到了一些可怕的景象:燃烧的办公楼、旧金山的大规模破坏、埃菲尔铁塔原址上冒着烟的弹坑。之所以能做到这一点,是因为谷歌刚刚决定将他们的AI图像生成器Nano Banana整合到这项服务中。此前,人们一直使用谷歌地球来获取现实世界地点的卫星或航拍图像。

只需打开网站,“在地图上选择一个地点,然后开始将你的想法变为现实”,谷歌在大约24小时前发布的新闻稿中这样写道。于是我照做了。

我只需在谷歌地球上搜索地点,点击“创建图像”图标,然后输入几个关键词,就能轻松生成那些暴力画面。这项功能还能轻易篡改一些不那么引人注目、也更难伪造的事件照片:比如白宫草坪上的流浪汉营地、海湖庄园外的抗议者、涌入美墨边境的移民。

谷歌最初的回应是引导用户自行检查任何可疑图片。随着使用谷歌地球这项新功能生成的虚假图片开始在网络上流传,该公司声明“非常重视虚假信息”,并表示“谷歌地球中所有使用Nano Banana生成的图片都包含SynthID数字水印,因此,如果有人对图片的真伪存疑,可以使用Gemini应用或搜索中的Lens功能来查看图片是否由人工智能生成”。起初,谷歌并未移除或限制对该工具的访问。但今天,在我联系谷歌寻求置评后不久,该公司改变了立场,宣布“在努力实施更完善的防护措施期间,将暂时撤回谷歌地球中的这项功能”。

在谷歌地球允许用户创建虚假图像之前,它曾是研究人员、记者和情报官员,特别是那些研究武装冲突和自然灾害的人员的独特资源。卫星和航空图像可用于监测作物歉收或森林砍伐、万人坑的形成以及轰炸行动的后果。尤其是在冲突地区和其他难以到达的地区,卫星图像是获取某种实地真相的首选方法。然而,在谷歌地球推出人工智能功能后,一位调查记者在领英上写道,该工具可以轻松快速地生成无人机袭击的图像,这些图像“与我们在乌克兰、俄罗斯、中东和其他饱受战争蹂躏的冲突地区看到的非常相似”。而且,谷歌并没有要求恶意行为者找到屏幕截图,然后绕过人工智能模型的安全措施,而是将制造虚假信息所需的一切都集成到一个流畅的用户界面中。我只用了四秒钟就生成了一张加沙地带特朗普酒店的渲染图。

这个问题对谷歌来说应该显而易见,因为他们的其他产品早已禁止此类编辑。我曾在谷歌地球上成功创建了一张飞机撞向新建世贸中心大楼的航拍图像,但当我尝试直接通过 Nano Banana 进行类似操作时,该工具却拒绝编辑大楼图像以描绘恐怖袭击。事实上,9/11 事件和其他一些重大事件早已是人工智能图像恶搞的经典题材。

这并非谷歌首次在缺乏有效安全措施的情况下推出人工智能功能,尤其是人工智能图像编辑功能。去年,该公司发布了一款人工智能购物工具,用户只需上传个人照片即可预览衣服穿在身上的效果。正如我和我的同事莉拉·什罗夫当时报道的那样,“任何人都能轻而易举地使用这项功能,制作出本质上带有色情意味的名人或陌生人照片。更令人震惊的是,我们还发现它甚至可以对未成年人进行此类操作。” 2024年,谷歌的Gemini功能因生成了一群不同种族的纳粹分子照片,却没有生成任何白人国防军士兵的照片而遭到嘲笑。而谷歌最引人注目的人工智能功能——其旗舰搜索引擎中的聊天机器人答案——在推出之初就遭遇了彻底的失败——人工智能提供的答案竟然建议人们吃石头,并给出其他一些可能造成危险的健康建议。直到面临巨大的公众压力,该公司才做出实质性改变,但两年过去了,谷歌搜索中的人工智能响应仍然不稳定且不可靠。

当然,谷歌并非唯一一家发布人工智能功能后造成尴尬、危险且本可避免后果的公司。例如,埃隆·马斯克的Grok在短短几天内就生成了超过100万张包含儿童色情内容的图片;ChatGPT多年来也犯下过无数令人尴尬的错误。人工智能行业一次又一次地用缺乏尽职调查就推出产品的方式,与其关于安全性的言论背道而​​驰。如果真如每一位人工智能巨头的高管所言,这项技术真的有可能颠覆人类文明,那么这些公司或许应该认真对待这份责任了。

作者简介:Matteo Wong是《大西洋月刊》的专职撰稿人。

本文出处:https://www.theatlantic.com/technology/2026/07/google-earth-ai-images/688145/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
舆论哗然!蔡崇信夫妇离婚,厘清3个关键视角:体面分手还是资本博弈

舆论哗然!蔡崇信夫妇离婚,厘清3个关键视角:体面分手还是资本博弈

火山詩话
2026-08-01 08:11:53
44岁高龄为81岁丈夫生子,如今生活如何

44岁高龄为81岁丈夫生子,如今生活如何

风月得自难寻
2026-08-01 07:19:43
藏了整整二十七年的秘密,托住张柏芝的从来不是谢家,原来是终身未娶的周星驰

藏了整整二十七年的秘密,托住张柏芝的从来不是谢家,原来是终身未娶的周星驰

可乐谈情感
2026-08-01 17:15:38
金灿荣重磅预警!当前是统一台湾最佳窗口期,绝不能无限拖延

金灿荣重磅预警!当前是统一台湾最佳窗口期,绝不能无限拖延

阿筀田间生活
2026-08-01 10:06:07
“你女儿穿成这样,能出门吗?”女子高铁偷拍女孩,被网友骂醒!

“你女儿穿成这样,能出门吗?”女子高铁偷拍女孩,被网友骂醒!

林林先生
2026-07-31 07:40:03
马卡:16岁迷你罗身高超C罗引发热议,相似度不可思议

马卡:16岁迷你罗身高超C罗引发热议,相似度不可思议

动物奇奇怪怪
2026-08-01 17:14:05
王虹在巴黎求学期间的军服标准照,飒!

王虹在巴黎求学期间的军服标准照,飒!

犀利强哥
2026-07-30 22:23:50
穆里尼奥忍痛放行!皇马 6000 万天才或将离队!天赋碾压帕斯

穆里尼奥忍痛放行!皇马 6000 万天才或将离队!天赋碾压帕斯

澜归序
2026-08-01 08:24:23
50岁李小冉离婚后住200平豪宅,彻底解脱连狗也换

50岁李小冉离婚后住200平豪宅,彻底解脱连狗也换

流云随风去远方
2026-08-01 16:08:23
张颖颖炮轰马筱梅!发文嘲讽马筱梅长相“阴间”,曝光更多黑历史

张颖颖炮轰马筱梅!发文嘲讽马筱梅长相“阴间”,曝光更多黑历史

铁锤妹妹是只猫
2026-07-30 20:43:51
国务院任免国家工作人员

国务院任免国家工作人员

新华社
2026-07-31 16:51:07
马杜罗在狱中告诉代总统:现在委内瑞拉的样子,他也觉得很不错

马杜罗在狱中告诉代总统:现在委内瑞拉的样子,他也觉得很不错

春之寞陌
2026-08-01 16:34:41
太清醒!蔡崇信官宣离婚,30年婚姻体面落幕,千亿资产分毫不分

太清醒!蔡崇信官宣离婚,30年婚姻体面落幕,千亿资产分毫不分

做一个合格的吃瓜群众
2026-08-01 08:50:07
俄军被曝首次打击美国防企业:基辅一美国无人机工厂遭俄罗斯导弹摧毁,“其制导系统能够抵御俄信号干扰”

俄军被曝首次打击美国防企业:基辅一美国无人机工厂遭俄罗斯导弹摧毁,“其制导系统能够抵御俄信号干扰”

鲁中晨报
2026-08-01 10:10:18
年仅41岁!强风导致墙壁倒塌,前中甲外援被混凝土墙砸中去世

年仅41岁!强风导致墙壁倒塌,前中甲外援被混凝土墙砸中去世

艳姐的搞笑视频
2026-08-01 17:28:22
国际油价爆了!中国证监会猛开罚单!

国际油价爆了!中国证监会猛开罚单!

新浪财经
2026-08-01 14:10:17
乌伊通了电话,伊朗最高领袖果然牛!特朗普要气炸,中国松了口气

乌伊通了电话,伊朗最高领袖果然牛!特朗普要气炸,中国松了口气

战域笔墨
2026-07-30 11:08:46
“只顾自己纹眉,不管女儿死活?”14岁女孩生日照,脸上全是槽点

“只顾自己纹眉,不管女儿死活?”14岁女孩生日照,脸上全是槽点

泽泽先生
2026-04-18 22:17:16
杨瀚森训练单挑湖人旧将!美媒建议3换2交易:加盟雄鹿可获稳定时间

杨瀚森训练单挑湖人旧将!美媒建议3换2交易:加盟雄鹿可获稳定时间

罗说NBA
2026-08-01 09:29:00
美国顶级战略家一针见血,中国的这场危机不解决,未来后果很严重

美国顶级战略家一针见血,中国的这场危机不解决,未来后果很严重

古史青云啊
2026-08-01 16:37:20
2026-08-01 18:12:49
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
933文章数 9080关注度
往期回顾 全部

科技要闻

特斯拉拆不掉中国制造

头条要闻

7月全国百城房价出炉 机构:上海深圳等地新房涨幅领跑

头条要闻

7月全国百城房价出炉 机构:上海深圳等地新房涨幅领跑

体育要闻

蔡崇信夫妇决定离婚!结束30年婚姻

娱乐要闻

周星驰质疑董宇辉看《大话西游》500遍

财经要闻

宇树造富盛宴:王兴兴将跻身百亿富豪

汽车要闻

听劝!换回机械门把手,这才是碳基生物该开的车!

态度原创

家居
健康
教育
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

中风易复发!谈中风康复与二级预防

教育要闻

看看题目,真的很难吗?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普否认允许乌克兰生产爱国者拦截弹

无障碍浏览 进入关怀版