河北
来源：市场资讯
（来源：津云 津云）
科技向善是愿景，科技衍生的负面效应必须予以正视并加以治理。唯有如此，才能让AI成为造福社会的工具，而不是批量制造“网络牛皮癣”的“帮凶”。
近日，某短视频用户发布一段视频：南沙大桥的栏杆被撞出一个缺口，一辆公交车悬停在桥面下的桥墩上，随后一辆小货车又从桥上坠落……这条视频发布于7月19日上午，截至20日上午已获近八千点赞和三千多次转发，恐慌在这一过程中“屏屏相传”。
然而，近期南沙大桥正常通行，根本没有发生任何类似事故。原来，这段视频由AI制作生成——视频中南沙大桥的题字出现明显变形，且右下方清晰显示“该视频由豆包AI生成”的水印。
这已经不是AI第一次“制造”新闻了。从“特大冰雹袭击城区”到“街道上漂浮鬼魅”，从冒用警务形象到虚构安全生产事故，AI造假视频正像墙壁上铲不完、揭不净的小广告一样，反复出现、反复蔓延。过去我们把那种小广告叫做“城市牛皮癣”，如今AI造假视频正在成为网络空间的“新牛皮癣”——贴了一张又一张，撕了这面又冒出那面，把人唬得一愣一愣的！
AI造假视频之所以令人头疼，根源在于制作门槛太低。过去要编造一段以假乱真的视频，需要专业的拍摄设备、剪辑软件和后期技术。如今输入几句指令，大模型就能批量输出文案、画面乃至虚拟人像。于是，造假就从“手艺活”变成了“流水线作业”。
更麻烦的是，AI生成的画面也越来越逼真。早期AI视频还有明显的失真痕迹，现在连大桥题字这样精细的细节都能做到只“轻微变形”——不拿着真照片对照，普通网友根本看不出破绽。当“有图有真相”变成“有视频也未必有真相”，AI也就从“生产力工具”变成了“造假利器”。
技术带来的问题，还得靠技术来解决。AI标识需要从“有标识”升级为“看得见标识”。譬如，可以考虑在视频开头3秒内醒目标注“AI生成”、标识尺寸不小于画面宽度的5%。如此，公众在按下转发键之前至少多了一道“提醒”，“毒流量”的蔓延便少了一分可能。
说起“毒流量”，笔者不禁联想起最近的另一个热词， “AI毒动画”。日前中央网信办出手，对AI毒动画进行整治。那些扭曲审美、夹带不良价值导向的劣质作品，那些利用AI技术恶搞经典动画形象、刻意放大暴力恐怖元素的不良内容，对心智尚未成熟的青少年造成潜移默化的负面影响，其隐蔽性与长期危害丝毫不亚于虚构公共事故的AI假视频，亟须整治。这也从侧面说明，科技向善是愿景，科技衍生的负面效应必须予以正视并加以治理。唯有如此，才能让AI成为造福社会的工具，而不是批量制造“网络牛皮癣”的“帮凶”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
