网易首页 > 网易号 > 正文 申请入驻

AI审核进入“懂审”时代:百度智能云司南专家版审核智能体破解内容安全新难题

0
分享至

来源:环球网

【环球网科技报道 记者 林梦雪】在AI生成内容爆发的今天,黑灰产早已不是靠谐音字、拆字这种“土办法”躲避审核的时代了。一个prompt,就能批量生成图文音视频全套违规内容。一段长文本里,风险信息被拆解、藏匿、重组,像变色龙一样融入正常语境。

而另一头,审核员们正在与时间赛跑。高峰时段队列堆积,新手误判、老手疲劳,人力成本随业务体量非线性攀升。传统“机审初筛+人审兜底”的模式,正在被这场不对称的攻防战拖入泥潭。

“行业需要一种新的能力,不是更快地翻找违规词,而是真正‘读懂’内容背后的意图。”

百度智能云司南AI安全审核解决方案专家夏可征说道。

近日,百度智能云司南AI审核专家版审核智能体正式推出,以大模型为核心引擎,融合多模态联合分析与意图级语义推理,理解复杂内容、识别隐蔽意图,将内容审核从机械规则识别升维至“深度理解”。

AI普及导致黑产进化,传统审核遭遇“能力危机”

随着生成式AI的普及,内容安全领域正面临着攻防失衡的危机。“传统链路中的缺口其实不在产能,而在能力上。”夏可征指出。

他表示,传统的“机审+人审”链路结构本身没有问题,真正的瓶颈在于机审端的能力不足。“理解不了复杂的组合关系,看不懂真实意图,分不清场景的差异。新增的变体就直接会漏判。”

夏可征将传统机审的痛点归纳为六类:泛化能力弱、策略更新慢、精确率与召回率难以兼顾、判定不可解释、上下文关联性缺失、图文音视频链路各自孤立。而在人审端,多模态内容堆积导致复核时间拉长,新手误判、老员工注意力下降、人力成本非线性增长等问题同样突出。

与此同时,黑灰产的生产方式正在发生质变。夏可征指出三大新趋势:一是跨模态批量生成,“原来黑产可能只能生产文字、图片或视频其中之一,现在通过一个prompt一次输入,可以把多模态的整体内容一起生成”;二是场景化快速改写,“通过对抗审核的方式快速改写内容,批量生产多个场景、多个版本,很难防”;三是变体与长文本藏匿,“原来要表达涉赌必须出现‘赌博’字眼,现在可能出现‘钓鱼’‘挖金’这种词”。

政策层面同样在收紧。2026年1月1日,新修改的《网络安全法》正式实施,新增条款中强调“完善人工智能伦理规范,加强风险监测评估和安全监管”,将网络安全带入更严格的监管阶段。

“政策要求变了,内容生产方式变了,对抗手段也变了。”夏可征总结道。

“懂审”四维度:从识别违规词到理解真实意图

面对上述挑战,百度智能云司南AI审核专家版审核智能体提出了“懂审”的核心理念,将审核能力从“关键词匹配”升级为“语义级理解”。

“‘懂审’与传统意义上的识别违规词有本质区别。”夏可征强调,“我们主要把已知的风险读懂,然后适配业务,给出持续有效且可判定的结果。”

他将“懂审”拆解为四个维度:“懂全貌”是对多模态信息全都看得懂;“懂语义”要能够还原变体的真实意图;“懂标准”是能够跟上业务的尺度;“懂举证”则是能够给出可解释的判定依据。“四个‘懂’结合起来才是‘懂审’的含义。”

在技术实现上,据夏可征介绍,专家版采用多模态大模型与AI专家模型融合方案,识别准确率较传统方案大幅提升。夏可征展示了一个典型案例:一条社交内容标题为“今晚不聊穿搭”,正文引导用户私信联系“晚风”,配图分别为羽绒服和露背照片。“单独看标题、正文、配图,每一条都合规。但组合起来就形成了完整的色情私聊引流链路。”传统机审对此几乎无能为力,而专家版通过跨模态关联性检测,最终判定该内容整体违规。

据百度智能云提供的数据显示,在某社交业务落地后,黑产变体召回率提升了4至5倍;对尺度主观的软色情场景,智能体精准度大幅提升。

夏可征还补充道,“传统小模型机审是死板的,按照规则去审核。而我们可以对知识库进行更新,对prompt提示词做不断优化。”这样避免了传统机审带来的误判,也能及时跟上监管的要求。

“相比市面上的一些做内容审核的公司,有些可能大模型做得好,但对内容的理解不够深刻。有些做内容的时间比较长,但缺少大模型研发能力。”夏可征说道,“百度智能云司南AI审核专家版的优势就在于对内容和大模型的理解能有效结合在一起。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
沉痛送别!斯琴高娃离世,网友悼念错了:那位76岁老戏骨还在拍戏

沉痛送别!斯琴高娃离世,网友悼念错了:那位76岁老戏骨还在拍戏

喜欢历史的阿繁
2026-11-18 16:17:20
已经彻底摆烂!媒体人透露:广东男篮召开俱乐部杯赛前会议,新帅摊牌"不盯成绩",陈海涛沉默认同!11冠王还能撑多久?

已经彻底摆烂!媒体人透露:广东男篮召开俱乐部杯赛前会议,新帅摊牌"不盯成绩",陈海涛沉默认同!11冠王还能撑多久?

锐评利物浦
2026-11-18 14:49:03
APEC工商领导人峰会开幕,王兴兴、董明珠、李东生、雷军等参会!

APEC工商领导人峰会开幕,王兴兴、董明珠、李东生、雷军等参会!

中国家电网
2026-11-18 08:51:31
祖籍广东的泰国总理阿努廷回到家乡格外兴奋,大飙粤语:猴开森

祖籍广东的泰国总理阿努廷回到家乡格外兴奋,大飙粤语:猴开森

极目新闻
2026-11-18 16:37:00
耿同学再开炮!用“虾滑”冒充肿瘤发9.7分论文?湘雅二医院陷入争议!土豆泥肿瘤、男性子宫肌瘤,论文工厂造假有多离谱?

耿同学再开炮!用“虾滑”冒充肿瘤发9.7分论文?湘雅二医院陷入争议!土豆泥肿瘤、男性子宫肌瘤,论文工厂造假有多离谱?

梅斯医学
2026-11-17 20:29:15
小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

西府赵王爷
2025-03-22 15:47:18
台海观澜 | 倒计时10天,谁掌台北

台海观澜 | 倒计时10天,谁掌台北

经济观察报
2026-11-18 12:22:15
央视翻车?感动全网的老人拆墙让路竟然是多年违规占地?

央视翻车?感动全网的老人拆墙让路竟然是多年违规占地?

魔都囡
2026-11-18 03:15:27
演员吴彦祖现身街头邀请路人一同吃饭遭拒绝,当事人回应:“我真的肠子都悔青了”

演员吴彦祖现身街头邀请路人一同吃饭遭拒绝,当事人回应:“我真的肠子都悔青了”

韩小娱
2026-11-16 11:58:27
中国28岁留学生嫖娼16岁日本女高中生,被抓狡辩:为了学日语!

中国28岁留学生嫖娼16岁日本女高中生,被抓狡辩:为了学日语!

圆圆神神神
2025-08-09 21:49:27
拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

影孖看世界
2026-10-13 23:32:38
东盟晚宴站位玄机:中日代表“零交流”

东盟晚宴站位玄机:中日代表“零交流”

天气观察站
2026-11-18 04:46:17
克宫承认克里米亚大桥被炸塌,佩斯科夫称大桥将被修复且“比以前更好”

克宫承认克里米亚大桥被炸塌,佩斯科夫称大桥将被修复且“比以前更好”

山河路口
2026-11-17 19:41:55
楼市风向突变!明后两年,会有越来越多家庭,主动把租金变成月供!

楼市风向突变!明后两年,会有越来越多家庭,主动把租金变成月供!

新国学文化
2026-11-16 10:46:27
破镜重圆复婚在即 张柏芝亲自证实 三个儿子都已经被谢霆锋接走

破镜重圆复婚在即 张柏芝亲自证实 三个儿子都已经被谢霆锋接走

星辰生肖馆
2025-03-22 05:10:03
误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

裕丰娱间说
2026-11-18 11:42:42
当下 “发不出工资” 的 4 个行业!比想象中还严重!

当下 “发不出工资” 的 4 个行业!比想象中还严重!

职场资深秘书
2026-11-16 15:09:51
公交系统终于想通了:与其让一城人抢上车,不如让他们先举手

公交系统终于想通了:与其让一城人抢上车,不如让他们先举手

琴音缭绕回
2026-11-18 12:25:15
刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

韩小娱
2026-11-18 08:10:38
中美俄意见一致,宁可让日本从地球上消失,也坚决不允许它拥核!

中美俄意见一致,宁可让日本从地球上消失,也坚决不允许它拥核!

兵鉴史
2026-07-21 18:43:52
2026-11-18 17:28:49
环球网资讯 incentive-icons
环球网资讯
环球网,了解世界,融入世界
1462747文章数 2741302关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

教育
时尚
健康
本地
军事航空

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

情绪真能让健康人"伤心至死"?

本地新闻

乌兰察布:以前种土豆,现在种Token

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版