甘肃
针对AI生成内容使用乱象，2025年9月1日《人工智能生成合成内容标识办法》施行，明确AI生成内容必须添加标识。如今新规落地已过百日，尽管各大平台陆续上线标识功能并配套相应管理措施，但记者调查发现，短视频、图文笔记、直播间，仍有许多AI内容未亮明身份，甚至一些原本显性的违规行为逐渐转向暗箱操作，深度伪造技术与黑灰产结合愈发紧密……
由于AI生成合成工具使用门槛低，而且生成结果让人难辨真伪，某些人就利用AI生成内容误导公众，所以，《人工智能生成合成内容标识办法》要求AI生成内容必须添加标识很有必要，解决了以往AI内容“难识别、难追溯”这一痛点，对于维护消费者知情权等至关重要。然而，新规早已生效，但许多AI内容仍未添加标识，而且各种“反标识”乱象丛生，导致短视频等内容真假难辨、泥沙俱下。
所谓“反标识”，是指网上出现一些“去水印”“无痕除标识”的基础工具，这类工具可以抹去AI内容上的标识。还有一些定制服务可绕过平台检测。这不仅在消解上述新规落地成效，也增加了平台治理成本，还助长更多人利用AI工具造假。据悉，“反标识”技术正从单一手段向“多元技术路线与商业模式并行”的完整产业链形态升级，催生出标识“露而不显”等AI仿造乱象，这给治理提出了挑战。
之所以出现“反标识”乱象，其一，一些需求者通过“去水印”、规避平台检测来谋取利益，比如为了引流、卖货、诈骗。其二，不法商家通过提供各种伪造工具和规避检测服务来获利。其三，不同平台标识规则有差异，给了违规者跨平台“作案”机会。其四，部分平台检测核验技术不完善，很难识别AI仿造内容。另外，现有法规缺乏针对未标识、恶意篡改标识等行为的具体罚则，违规者无所畏惧。
因此，要想落实AI内容添加标识的规定，必须先对“反标识”乱象进行整治。对此，有关人士给出了整治建议：完善“不可篡改、全程可溯”技术硬屏障；厘清“生成、传播、使用”权责边界；构建“政府、公众、平台”治理闭环。由此看来，既需要相关各方各尽其责，也需要协同治理。在笔者看来，治理关键在于平台能否扛起责任，具体来说，既需要AI生成平台落实责任也需要内容传播平台尽责。
作为AI生成平台，应该按照相关规定要求，让每次AI生成合成内容都带有无法轻易抹去的显式标识和隐式标识，争取不给违规者去除显式标识、篡改隐式标识的机会。从运营短视频、图文笔记、直播间的平台角度来说，必须提升检测、识别AI合成内容，“去水印”作品等技术能力。同时，还需要这两类平台建立共享、协作机制，即凡是AI生成平台出来的所有作品，都能被内容传播平台精准识别到。
为了促使平台履职尽责，应该对上述两类平台加强监管，凡是没有落实AI内容标识管理责任的平台，轻则约谈督促其进行整改，重则依据现有相关法规进行处罚。同时，还应该鼓励公众举报AI内容无标识、AI内容造假等问题，通过依靠群众监督力量，来弥补平台技术不足、监管力量不足。总之，AI生成合成技术为我们带来便利性和丰富性，但也要多措并举严防这类技术演变成一种“造假神器”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
