AIGC广告乱象频出，平台治理方引入AI博弈

界面新闻记者 | 肖芳
界面新闻编辑 | 文姝琪

近日，演员吴越发微博怒斥某账号用AI克隆了她的脸和声音推销一款护肤品。实际上，AIGC广告还有很多比侵权造假更为隐蔽的违规问题。

在巨量引擎安全开放日上，巨量引擎商业信任与安全内容安全策略负责人萧涛举了一条AI漫剧广告的案例：素材讲的是“新娘下车要彩礼”这类制造冲突的题材，违背公序良俗。但用传统的模型策略去识别，因为传统模型策略只能识别单帧画面，单看这个画面是没有问题的，也很难被逐条素材审核的规则命中，需要多模态大模型去理解图、文和声音合在一起讲的内容。

这些乱象都源于供给侧的变化。贝壳文化科技集团一个核心业务是为电商商家制作AIGC广告素材，其CEO刘飞CEO对界面新闻表示，AIGC对广告行业带来了颠覆性的变化：一条15秒的产品展示视频，最低十几块钱就能做。在真人拍摄模式下，一个便宜的模特一天200元，加上摄像和灯光，批量摊下来一条也要一两百元，单独做一条则要500到1000元。原来很多商家没有预算去做，现在任何一个商家都可以做。

相比于传统广告，AIGC广告治理也遇到了非常大的挑战。在中国社会科学院大学互联网法治研究中心主任刘晓春看来，传统广告治理有三个前提，内容由人生产、审核由人执行、规则由人阅读理解，但AIGC把这三条都改写了。

她表示，效率提升的背面是风险的同步升级。不仅仅是分散化的个体广告主，而是形成了一个产业链。黑灰产掌握了AI工具，批量化地制作违规素材、伪造权威背书、生成虚假代言，手段本身也在快速迭代。但《广告法》的体系仍然是“人对人”的端口，以个案审查为主。

据界面新闻了解，目前，各个平台都在推出多种举措治理AIGC广告乱象，抖音、小红书是动作最为积极的平台。此前，巨量引擎已经上线了AI Agent通过人和AI协同的模式治理AIGC广告。

今年，巨量引擎还在集中把业务专家经验转化为Agent经验，治理架构也调整成了一个主Agent和多个子Agent结合的模式。其中，主Agent能识别绝大部分问题，而不同的子Agent分别定向识别侵权、数字人、售假这类单一风险。据其介绍，这套治理架构给平台带来了10倍以上甚至以上风险拦截能力的提升。

萧涛透露，预计一年之内，抖音的治理框架都会走向以AI为主。“我们的规则和策略设计都在朝着这个方向演进，目前正在以月进行演进。”

这是因为平台需要审核的AIGC广告规模越来越大。根据CTR（央视市场研究）发布的数据，86%的广告买方已经全部或部分用AI生产素材，40%的创意由AIGC构成。

在萧涛看来，AI给供给方带来更多降本增效的机会，对治理方也是一样，双方的博弈最后会变成算力、算法、架构的竞争，是道高一尺魔高一丈过程。“AI可以做到很多以前做起来成本比较高的事，治理边界的外溢会越来越广阔。”

平台治理乱象的初衷是好的，但在落地过程中也会出现规则模糊、机审卡住之后沟通效率低等问题。对于合规经营的广告主和代理商而言，这需要额外投入非常大的成本，甚至会影响最终的投放效果。

一家信息流广告代理商负责人告诉界面新闻，不同平台的治理政策有很大差别，其团队有几个运营人员专门跟踪各个平台的政策，但还是时常会遇到广告素材不知道什么原因违规的问题。

在他看来，申诉的解决速度在也是平台商业化能力的一部分。

巨量引擎商业信任与安全客户体验运营王晓颖也谈及了这个问题。她表示，其团队在日常客户走访中发现，客户核心痛点其实并不是某一次拒审或者是某一次的处置，而是贯穿经营全程的不确定性。客户不知道为什么不过、不知道怎么改、不知道怎么申诉，也不知道下次怎么避免，本质是客户对规则吃不准、对审核判读拿不准。

为此，巨量引擎也结合AIGC上线了多项能力。其中，拒接理由的精细化解读是通过多模态大模型能力，对问题进行详细定位、完整解释并且给到修改方向指引。平台对拒绝的广告素材还上线了一键修复的能力，让客户从前面知道怎么改到现在一键就能改。

王晓颖透露，巨量引擎同时也在规则中心把判罚依据、生效时间和修改要求讲清楚，让规则更透明，广告客户可以通过日常学习极大避免风险内容的发生。

把规则讲清楚、让修改更简单，只是治理的一部分。更深一层的问题是，在AI不断降低内容生产门槛的同时，平台究竟愿意为内容质量投入多少资源。刘晓春把其称之为“良心活”，法律并没有划出一条特别明确的红线，但平台究竟投入多少算力用于治理，考验的是其长期判断。

在她看来，这种判断最终指向的是用户信任。“如果用户每一次广告都要辨别一次，广告的价值也在下降。”