河北
8月2日，谷歌Earth推出AI图像生成功能，不到48小时就宣布暂停服务。原因是专家警告：AI生成的虚构场景可以叠加到真实的卫星图上，散播虚假信息。
这事挺讽刺的。谷歌在AI领域算是"老好人"形象，一向标榜"负责任的AI"。结果自家产品刚上线就被自己叫停——说明连谷歌自己都没想清楚，AI生图这个功能到底该怎么用、边界在哪。
问题的核心在于：以前PS一张假图需要技术，现在AI生成一张假图只需要一句话。当这种能力跟谷歌地球的真实卫星图叠加在一起，你分不清哪块是真实的城市、哪块是AI虚构的。如果有人在冲突地区用这个功能"生成"一些不存在的军事设施，然后截图发到社交媒体上——后果不堪设想。
谷歌叫停得还算及时。但这件事暴露了一个更深层的问题：AI的能力跑得比人类的监管和伦理判断快太多了。功能上线之前没人想到这个风险吗？想到了为什么还上？上了为什么48小时才叫停？
这些问题没有简单的答案。但有一点是确定的：AI生成内容的"真实性危机"，才刚刚开始。今天谷歌地球能生成假地图，明天谷歌地图就能生成假街景，后天谷歌搜索就能生成假新闻。技术本身是中性的，但技术落地的场景选择，需要更多的事前思考，而不是事后补救。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
