网易首页 > 网易号 > 正文 申请入驻

百度风控副总经理周鑫:AI时代的风险正从“看得见”走向“看不见”

0
分享至

中经记者 李静 北京报道


人工智能正在改变未成年人接触互联网的方式,也让网络风险的识别和治理变得更加复杂。

10月31日,在由中国社会科学院新闻与传播研究所、社会科学文献出版社与中国经营报社联合主办,中国社会科学院新闻与传播研究所媒介传播与青少年发展研究中心承办的“《青少年蓝皮书:中国未成年人互联网运用报告(2026)》新书发布暨青少年科技创新可持续发展优秀案例发布仪式”上,百度风控副总经理周鑫表示,AI带来的变化不仅体现在产品形态和传播方式上,内容生产方式的变化也催生了新的风险类型,传统治理手段已难以完全适应。

“你跟一个AI聊天产生的数据是海量级的。”周鑫指出,过去平台主要依靠人工审核拦截违法信息,但在AI时代,内容生产规模大幅增加,人工审核既面临资源不足的问题,也面临专业认知上的挑战。随着网络内容圈层化,一些亚文化和小众表达超出了普通审核人员的知识范围。“大家作为家长其实可以明显地感受到,我们小孩看的有些东西,我们是看不太明白的。”

AI生成的低质量内容是其中一个典型场景。周鑫提到,“数字泔水”“烂梗”等现象已经普遍存在。过去,平台主要治理AI生成内容发布到传统平台后的传播行为,如今还需要向前延伸,对AI工具生成内容的过程进行管理。

风险还不局限于AI工具本身。周鑫提到,极端饭圈、小众亚文化以及线上互动向线下延伸,都可能成为未成年人网络保护需要关注的问题。百度内部梳理的相关风险已经有几百个分类,而不同圈层的表达方式和语境各不相同。

“同一个暗语在不同语境下可能有不同含义,如果你连看都看不懂,你怎么治理这个问题呢?”周鑫表示。

跨平台传播也进一步增加了治理难度。用户可能在一个平台留下联系方式,随后转移到其他平台继续交流,单个平台难以掌握其后续行为,也很难判断真实意图。与此同时,部分海外亚文化和相关内容也可能跨境传播,需要平台持续关注。

未成年人身份识别同样存在现实障碍。平台注册信息不一定对应实际使用者,未成年人可能使用父母的账号或设备,即使完成实名认证,平台也未必能够准确判断当前使用者是否为未成年人。

面对这些变化,周鑫介绍,百度正在调整传统风控方式,通过引入不同研究背景的人员,持续观察网络环境和圈层文化变化,并将相关发现转化为治理策略。同时,百度也在利用AI辅助风险识别,通过多种策略联动提升治理能力。

不过,跨平台治理还受到数据隐私等因素制约,不同平台之间不能随意共享用户隐私数据。百度也在与社工组织等外部机构开展合作,并在发现疑似风险时向监管部门报告。

周鑫认为,未成年人网络保护是一项复杂的社会议题,需要平台、监管部门和社会组织共同参与。随着AI应用不断深入,平台面临的挑战已不只是识别公开传播的有害内容,更要及时发现隐藏在AI生成过程、私密互动和跨平台交流中的风险。

对于未成年人而言,如何在享受AI技术带来的便利时避免陷入新的网络风险,也是平台、家庭、学校和社会需要共同面对的长期课题。

(编辑:张靖超 审核:李正豪 校对:颜京宁)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
萧克早年是林彪麾下的猛将,1955年因嫌上将军衔评得偏低而公开表达不满,彭德怀当即表示重新研究,次年他便获得了全军唯一一次特殊追认

萧克早年是林彪麾下的猛将,1955年因嫌上将军衔评得偏低而公开表达不满,彭德怀当即表示重新研究,次年他便获得了全军唯一一次特殊追认

人生录
2026-10-25 00:25:05
为啥年深岁久成型了石头最终都会被炸掉?网友分享光怪陆离,开眼了

为啥年深岁久成型了石头最终都会被炸掉?网友分享光怪陆离,开眼了

夜深爱杂谈
2026-11-18 21:25:08
疯了!美国又猛推华为一把

疯了!美国又猛推华为一把

华商韬略毕亚军
2026-11-19 10:13:20
正午阳光口碑最高的十部剧,《知否》垫底,榜首至今都无人敢翻拍

正午阳光口碑最高的十部剧,《知否》垫底,榜首至今都无人敢翻拍

小Q侃电影
2026-11-19 17:18:47
1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

磊子讲史
2026-11-12 11:43:36
入冬后,宁可不吃肉也要吃这4菜,自带“青霉素”,抗菌消炎,增强免疫力,天冷少生病

入冬后,宁可不吃肉也要吃这4菜,自带“青霉素”,抗菌消炎,增强免疫力,天冷少生病

小茉莉美食记
2026-11-19 13:52:24
爱奇艺,再不努力就退了

爱奇艺,再不努力就退了

钛媒体APP
2026-11-18 11:06:10
日媒称中国“失礼”,对高市早苗接待不如特朗普、普京,让高市早苗存在“落差”

日媒称中国“失礼”,对高市早苗接待不如特朗普、普京,让高市早苗存在“落差”

蓝星杂谈
2026-11-19 12:16:15
央视纪录片《读书的力量》:如果能大量读书,你几乎可以学会任何东西

央视纪录片《读书的力量》:如果能大量读书,你几乎可以学会任何东西

洞见
2026-11-16 10:00:15
印度富豪女儿在家招待美国设计师,30米波浪长桌惊艳,却引发争议

印度富豪女儿在家招待美国设计师,30米波浪长桌惊艳,却引发争议

译言
2026-11-19 09:39:49
10轮联赛输2场排第四,伊拉奥拉给利物浦带来了什么?

10轮联赛输2场排第四,伊拉奥拉给利物浦带来了什么?

元气满分吖
2026-11-19 23:20:45
声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

14号观星辰
2026-11-19 17:51:16
中国只有这7座真正的国际大都市,其他城市别再争了,差距太大!

中国只有这7座真正的国际大都市,其他城市别再争了,差距太大!

心若琉璃说
2026-10-15 06:45:06
肃反运动中,被张国焘杀害的6位红军名将

肃反运动中,被张国焘杀害的6位红军名将

祁州校尉
2026-11-18 09:00:39
“knight一句话让LPL新人身价暴涨”!BLG粉丝迎来好消息,韩网怀疑Viper已经续约

“knight一句话让LPL新人身价暴涨”!BLG粉丝迎来好消息,韩网怀疑Viper已经续约

姚某人说联盟
2026-11-19 23:27:40
60岁之后,存款达到这个数就够了,多了没必要,你也花不完

60岁之后,存款达到这个数就够了,多了没必要,你也花不完

奇思妙想生活家
2026-10-30 13:54:37
事关台湾问题,特朗普和高市都表态了,但高市被俄罗斯外长怒批

事关台湾问题,特朗普和高市都表态了,但高市被俄罗斯外长怒批

军机Nova
2026-11-19 11:01:32
魔兽世界无限:艾泽拉斯贸易局冲声望,别无脑交板条箱,这样做更省钱

魔兽世界无限:艾泽拉斯贸易局冲声望,别无脑交板条箱,这样做更省钱

胖哥游戏说
2026-11-19 18:34:08
颠覆认知!超150万人证实:打牌、麻将久坐,反而有益健康

颠覆认知!超150万人证实:打牌、麻将久坐,反而有益健康

华人星光
2026-10-20 13:15:05
泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

金戈远望
2026-11-19 12:31:19
2026-11-20 00:11:00
中国经营报 incentive-icons
中国经营报
中国经营报微博由《中国经营报》社有限公司运营,与中国企业同步成长
30813文章数 30319关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

日媒称中方对高市早苗的简朴接机仪式引关注 中方回应

头条要闻

日媒称中方对高市早苗的简朴接机仪式引关注 中方回应

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

时尚
本地
教育
艺术
公开课

“针织衫”怎么才能穿出时髦感?照这么穿,配裤子裙子都好看

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

解读世界上最神奇的 24 堂课 23-8

艺术要闻

柔美与锋芒:时尚人像摄影

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版