北京
分享至
谷歌把自家图像生成模型Nano Banana塞进了地球应用里，现在你只需点击几下，就能把卫星视图当画布，随意“改造”一座社区或整座城市。听起来像高级版《模拟城市》，真实感却拉满了。
问题出在恶意用途上。研究员亨克·范埃斯公开演示了这套工具有多容易被滥用，他生成的一张伪造卫星图里，伊朗某地凭空出现了一座核电站——细节足以以假乱真。
谷歌对外声称已建立防护机制，意在拦截有害图像和虚假信息，但实测结果并不乐观。科技媒体404 Media记者约瑟夫·考克斯亲自上手，绕过限制生成了多张问题视图：他在乡村地区插入摩天大楼，在洛杉矶某个无家可归者问题已成政治焦点的街区凭空添加了一处“流浪汉营地”。
更令人不安的是，考克斯还在洛杉矶地图上生成了“爆炸弹坑”的虚假现场，甚至直接在谷歌自家办公楼外“放置”了一群数字抗议者。整个测试过程中，谷歌宣称的内容安全策略几乎形同虚设。
当卫星级别的视觉伪造只需几次点击就能完成，而平台承诺的防线又如此轻易被突破，或许科技公司在推出这类工具前，真该先拉一张利弊清单看看。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
