北京
来源：滚动播报
（来源：上观新闻）
走进KTV包厢，点首温柔情歌想放松，结果屏幕上跳出一堆扭曲的色块，动画还跟歌词八竿子打不着——好好的心情，瞬间被这些诡异的AI画面搅没了。有网友吐槽：“现在花几十块点首歌，等于看了场AI抽象艺术展。”这种颇显荒诞的体验，折射出AI技术不当应用的现实隐忧。
短视频平台上，类似的乱子更扎眼：有人凭着几张照片、一段文字，就用AI批量造虚假视频。熟悉的体育明星、专家学者，脸被硬生生安到不知名保健品、土特产的“代言”里；标着“紧急灾情”的视频里，房屋倒塌、人群乱跑的画面看着特吓人，可查遍官方消息，压根没这回事。这些被滥用的AI视频，不少已经触犯了法律，更在一点点磨掉普通人对互联网的信任。
说起来，AI自动生成视频的技术，早就用在教育、文旅这些领域了。它确实能提高视频制作效率，降低互联网内容的成本。技术本身没什么“好”或“坏”，关键看用的人怎么驾驭——是拿它服务社会、方便生活，还是靠它混淆视听、捞不正当的好处。
要解决AI应用的信任问题，关键是平衡好技术效率、用户体验和内容真实性，让技术真正为我们服务。通常，AI总给人冷冰冰、硬邦邦的感觉，比如那些线上客服，回复得干巴巴的，让人越看越烦。AI本来是为了提高服务效率，不是来拉低体验的。所以，企业在想着降本增效时，得把消费者的体验算进去，建个“用户反馈通道”——比如给用户弄个方便的投诉入口，让企业能及时收到大家对AI内容的吐槽和建议，赶紧改；就算是KTV里的AI画面，也得先过审，看看美不美观、合不合规，别让乱七八糟的内容毁了唱歌的氛围。
AI技术发展的同时，也要给其划条“红线”。AI生成视频能帮着创作内容，也可能变成骗人、干坏事的工具。所以，放到大众平台上的内容，必须搞“AI内容溯源”：在画面里加个不容易改的数字标记，让大家一眼就知道这是不是AI做的，别被误导。除了前端标清楚，后面管生产的也得跟上：给AI内容生产者搞个“白名单”，审核资质、动态盯着，从源头就别让劣质、虚假的内容流出来。
说到底，规范AI应用，就是为了让它好好服务人。企业和网络平台得主动点，明确说不准用AI伪造违法违规的内容；以后再优化优化算法，让技术既能提高效率，又能让人觉得贴心。只有在“效率”和“温度”之间找到平衡，大家对AI应用的信任才能回来，AI才能真的帮着社会发展，而不是添乱。
原标题：《微言 | KTV点歌变“看AI抽象展”？AI乱搞的可不止这些！》
栏目主编：范兵、张裕
来源：作者：文汇报 王布米
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
