越南洪水中“祖孙呼救”视频疯传，真相曝光：竟是AI伪造的流量骗局！

在分享一段越南中部洪水中祖孙俩呼救的视频前，清书（Thanh Thư）及时停了下来，因为她发现了一些细节，表明这是AI为了“博取流量”而制作的产品。

这不是28岁的胡志明市（TP HCM）市民清书第一次差点被骗。她曾相信一张因11号台风影响，数十名民众在太原（Thái Nguyên）爬上屋顶避洪的照片。这张照片很模糊，容易让观看者产生错觉。“但仔细观察才发现很不合理，许多直升机贴着水面飞行却不救人，”清书说。

正是那次经历让她变得更加警惕。回到最近发生在顺化（Huế）的祖孙视频，她发现视频中老奶奶的面容模糊、变形。周围，一群其他人正平静地站着聊天，水只到膝盖。“这个画面让我心痛，本想分享，但幸运的是及时发现了，”她讲述道。

2025年10月，28岁的胡志明市居民清书正在关注有关有人利用人工智能制作残疾人图像和视频进行诈骗的警告

清书的疲惫还来自于她的朋友们。几个月来，许多人不断炫耀在世界各地旅游的照片，脸庞“美得像模特”。但当她看到许多人在同一个背景下炫耀照片，只是换了张脸时，她才知道那是AI。

27岁的黄越（Hoàng Việt），住在河内（Hà Nội）纸桥郡（Cầu Giấy），也是AI内容的受害者，但体现在知识层面。他热爱植物，曾花了一个多小时在TikTok上观看关于五彩蘑菇的视频，并仔细记录信息。“之后，我查阅资料并咨询专家，才知道这种蘑菇根本不存在，”越（Việt）讲述道。

他也曾因观看“水怪复活”的视频或野生动物在充气城堡上跳跃的片段而感到惊恐。这些视频画质很差，似乎来自监控摄像头，却吸引了数千万次互动。“全都是假的，”黄越说。

这些经历让这位27岁的年轻人逐渐失去了信任。如今，为了避免被骗，他通常会花额外的时间将信息与主流媒体或专业资料进行比对。

这是人工智能制作的虚假视频的截图

从年初开始，用AI生成图片、视频的风潮爆发，从与已故亲人的合影到旅游照片。随着OpenAI Sora、Google Veo3或Runway等视频生成工具的出现，虚假视频的数量大幅增加。

数字化转型专家丁玉山（Đinh Ngọc Sơn）博士指出，虚假内容通常被设计得很巧妙，旨在击中人们的情感和好奇心。“耸人听闻、独特的信息总是传播得更快。当AI提升了真实感，传播速度就更强，从而制造出难以抗拒的‘情感旋风’，”丁玉山先生说。

据丁玉山先生称，当前最大的挑战是信息的真实性和道德问题。当生成式AI技术发展后，真假之间的界限变得模糊。诸如“洪流中的家庭”或假主播播报新闻的视频就是典型的例子。

“当用户未经核实就分享时，它们会产生连锁效应，扭曲公众认知，并侵蚀诚实信息的基础，”丁玉山先生分析道。今年7月，马来西亚《The Star》报报道，吉隆坡（Kuala Lumpur）的一对夫妇曾驱车300公里前往一个旅游点，但到达后，他们发现这个地方根本不存在，图片完全是AI的产物。

“反诈骗”项目创始人吴明孝（Ngô Minh Hiếu）表示，滥用AI应用生成“酷炫”照片并在社交媒体上炫耀，是一种泄露个人数据、为不法分子创造机会的行为。

“只需要一部智能手机，用户就能生成AI产品。除了娱乐，利用AI针对知识不足的人进行诈骗，正是一个突出问题，”吴明孝先生说。

在10月底举行的在线反诈骗座谈会上，公安部副部长冯世雄（Phạm Thế Tùng）也表示，犯罪分子正在彻底利用AI、Deepfake技术来接触民众并实施诈骗行为。

10月28日，Chongluadao.vn平台警告了一种新的诈骗手段。不法分子收集真实的直播带货视频，用AI编辑视频中人物的面部和身体，使其看起来有缺陷或患有重病。然后，他们重新发布视频，呼吁人们“帮助困难的人”而购买商品。

这种手段的精妙之处在于伪造的图像非常逼真。诈骗者还创建大量虚假账号，留下“太可怜了，下单支持你”之类的评论，以制造羊群效应，欺骗那些相信自己正在帮助弱势群体的人。

读到这些信息，清书更加感到迷茫。她说，自己过去常常因为同情而购买那些在直播中展示身体缺陷的人售卖的商品。“但现在，用AI把普通人变成残疾人来卖东西，我不知道该把信任放在哪里了，”清书（Thanh Thư）说。

为了阻止来自AI的假新闻，丁玉山博士认为需要个人、社区和社会管理三个层面的共同努力。每个人都必须提高信息核查技能，而新闻界和教育界则需要大力推动“数字媒介素养”教育。

“核心要素仍然是数字道德。当每个人在意识中都有一个‘智能过滤器’时，AI将不再构成威胁，”丁玉山先生阐述了他的观点。

吴明孝先生也补充说，预计将于明年初颁布的关于保护个人数据的《人工智能法》，将有助于“以最安全的方式保护用户和企业”。

为了不成为“猎物”，丁玉山养成了仔细观察所有内容的习惯。她也会将新闻与主流信源进行比对；看视频时必须“细究”视频中人物的手脚动作和嘴部细节。

“当真假难以分辨时，我需要花更多时间去鉴定，以免被那些博取流量、进行诈骗的人‘牵着鼻子走’，”清书说。