贵州
为博流量用AI造假视频！台风天编&;女子坠楼&;，结果被行拘了
灵敏星星Geyhv
台风&;白海豚&;正在肆虐上海，风雨交加、人心惶惶的时候，有人居然用AI生成了一段&;浦东女子台风坠楼&;的视频往网上发。
这不是缺德是什么？
8月10日，上海浦东警方通报：高某某为了博流量，用AI工具生成了这段虚假视频并传播，目前已被行政拘留。
你想想这个场景：外面狂风暴雨，大家都在刷手机关注灾情，突然刷到一段&;有人坠楼&;的视频，你的第一反应是什么？恐慌、转发、担心。然后呢？谣言就这么扩散开了。等警方出来辟谣，恐慌已经造成了，公共资源已经浪费了。
这不是AI造假第一次干坏事了。前几天&;男子靠AI制定方案45天狂瘦40斤险丧命&;才刚上过热搜。AI减肥、AI造谣、AI生成假新闻……技术门槛越来越低，造假的成本越来越低，但辨别真假的难度却越来越高。
以前造谣还得编故事、找图片、P图，现在呢？输入一段文字描述，AI几分钟就能生成一段逼真的视频。普通人看到这种内容，根本分不清真假。灾害发生的时候，公众最需要的是准确信息，结果被这种AI假视频一搅和，真实信息反而被淹没了。
从法律上讲，《治安管理处罚法》第二十五条规定，散布谣言、谎报险情的，处五日以上十日以下拘留，可以并处五百元以下罚款。如果造成严重后果，还可能触犯刑法中的&;编造、故意传播虚假信息罪&;。高某某被行拘，一点都不冤。
但问题是，拘留一个人容易，治理AI造假难。技术发展太快，法律法规和平台监管跟不上。AI生成的视频越来越逼真，普通用户根本识别不了。社交媒体的推荐算法又特别&;喜欢&;这种刺激性的灾害内容——越吓人推得越猛，传播得越快。
上海警方的处置速度值得点赞。台风天第一时间发现、第一时间通报、第一时间处理，既打击了造谣者，也起到了震慑作用。但光靠警方打击还不够，平台得担起审核责任，技术得跟上识别能力，我们普通人也得多个心眼——看到刺激性内容先别急着转发，等官方消息确认了再说。
AI是工具，不是造假加速器。台风天本就够难了，别再给添乱了。
你有没有在社交媒体上被假新闻骗过？你觉得AI生成的内容应该怎么管？评论区说说你的看法！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
