网易首页 > 网易号 > 正文 申请入驻

兼顾合规与创新动态平衡!权威专家解读人工智能伦理审查新规

0
分享至

“数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等,是否采取充分措施确保隐私数据得到有效保护”“是否采取措施防止偏见歧视、算法压榨,保障资源分配、机会获取、决策过程的客观性与包容性”……十部门近日联合印发《人工智能科技伦理审查与服务办法(试行)》,标志着我国人工智能伦理治理实现从原则倡导、行业自律向制度化、程序化、全链条、可落地的关键跨越。对此,工业和信息化部信息通信经济专家委员会委员、南京邮电大学信息产业发展战略研究院首席专家、浙江大学网络空间国际治理研究基地首席专家王春晖接受南都采访时表示,这是我国应对智能技术变革与治理需求的里程碑式举措,填补了人工智能领域专门性伦理审查制度的空白,是国家科技伦理治理体系在人工智能领域的细化落地,为人工智能技术向善、智能产业高质量发展筑牢了刚性制度基石。

兼顾合规成本与创新红利的动态平衡

南都:通用人工智能加速落地,伦理风险已成系统性治理命题。十部门发布《人工智能科技伦理审查与服务办法(试行)》,在系统性制度建设上有哪些创新?

王春晖:人工智能正由专用智能向通用智能快速演进,技术渗透力、自主性与社会影响力空前提升,已成为驱动数字经济与新型工业化发展的核心引擎。但技术的狂飙突进也伴生着突出的伦理风险,诸如算法黑箱与算法歧视加剧社会不公,割裂社会共识;深度合成、内容操纵等技术冲击舆论生态,侵蚀社会信任;数据滥用与隐私侵害直接侵犯公民人格尊严;高度自主决策系统模糊责任边界,挑战人类主体地位;部分人机融合技术更直接触及生命健康与人格尊严的核心底线等。

全球主要经济体竞相完善人工智能规制体系,欧盟以《人工智能法案》为核心,构建起严格的风险分级监管框架;美国通过行政命令与司法实践,强化对高风险人工和智能系统的常态化管控等,全球人工智能治理已进入规则竞争的关键时期。作为人工智能产业大国、应用大国和创新大国,我国亟须一套立足国情、适配技术发展、可操作、可执行的顶层制度设计,以回应社会公众对技术伦理的关切,防范系统性伦理风险,抢占全球人工智能治理的道义制高点。

此次《办法》共六章37条,另附高风险活动复核清单,在衔接《科技伦理审查办法(试行)》基础上,针对人工智能技术迭代快、风险隐蔽性强、社会外溢性突出等特征,形成了系统性的制度创新,实现了伦理治理与技术发展规律、产业发展需求的深度适配,构建起“预防、服务、监管”三位一体的善治体系。

南都:我们注意到此次《办法》设“服务与促进”章节,在您看来是出于哪些考量?

王春晖:《办法》突破传统治理中“重监管,轻服务”的固有思路,专设“服务与促进”章节,明确将伦理治理定位为产业发展的助推器,而非简单的约束项。具体而言,推动构建多层次、全方位的人工智能科技伦理标准体系,加快国际标准、国家标准、行业标准、团体标准的协同衔接,为行业发展提供清晰、明确的合规指引;强化伦理风险监测预警、检测评估、认证咨询等公共服务供给,重点加大对中小微企业的伦理审查支持力度,破解其合规能力不足的困境;鼓励伦理审查技术创新与高质量数据集有序开源开放,推动以技术手段防范技术伦理风险,实现治理效能与创新活力的双向提升。这一制度设计实现伦理治理与产业发展同向发力,兼顾合规成本与创新红利的动态平衡,有效避免伦理治理“一刀切”可能带来的创新抑制问题,为人工智能产业健康发展保驾护航。

以“清单管理+专家复核”分级施策

南都:此次《办法》中是如何界定相关主体责任,确保伦理审查责任层层落实、落地见效?

王春晖:《办法》清晰界定三级责任主体。首先,落实单位第一责任。高校、科研机构、企业等作为人工智能科技活动的实施主体,必须设立独立运行的人工智能科技伦理委员会,将伦理要求全面嵌入研发、测试、应用、迭代全流程,实现伦理风险的源头防控。其次,强化专业服务支撑。鼓励地方依托相关单位建立专业化的人工智能科技伦理审查与服务中心,面向社会提供审查、复核、培训、咨询等第三方服务,有效破解基层单位“不会审、审不了”的现实难题。第三,压实政府监管职责。工业和信息化部会同相关部门统筹推进人工智能伦理治理工作,科技部负责统筹指导全国科技伦理监管工作,各行业主管部门与地方管理部门分工负责、协同联动,形成上下贯通、左右协同的监管格局。这种多元主体分工协作、相互制衡的协同治理模式,从根本上提升了伦理审查的独立性、专业性与公信力,为制度落地提供了组织保障。

南都:在审查流程方面又有哪些创新之举,实现伦理监管的精准管控?

王春晖:《办法》根据人工智能科技活动的风险高低,科学设置一般程序、简易程序、专家复核程序、应急程序四类审查流程,严格遵循“风险越高,审查越严”的原则,是全文最具操作性的制度创新。

其中,核心亮点在于附件所列的高风险人工智能科技活动复核清单,明确划定三类必须开展专家复核的高风险活动:对人类主观行为、心理情绪和生命健康具有较强影响的人机融合系统研发,此类活动直接触及人类尊严、身心安全与主体性底线,是伦理风险最敏感的领域;具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统研发,事关意识形态安全、社会共识凝聚与公共秩序稳定;面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统研发,直接关系公共安全与个体生命健康,一旦失控可能造成重大损失。

对上述三类高风险活动,《办法》明确要求实行“单位初审+专家复核”的双重把关机制,有效防范自查自纠可能出现的利益冲突与审查虚化问题。设置72小时应急审查机制,确保在突发公共事件等紧急场景下,AI技术能够快速应用且不突破伦理底线,充分体现敏捷治理、精准治理的鲜明特点。

此外,《办法》附件所列《需要开展科技伦理专家复核的人工智能科技活动清单》,是《办法》中最具刚性约束力的制度安排,其核心是对人工智能伦理风险的精准识别与严格规制,为人工智能发展划定不可逾越的伦理红线。将影响人类主观行为、心理情绪与生命健康的人机融合系统列为首要复核对象,直击人工智能伦理最敏感、最具颠覆性的领域。对具备舆论社会动员与社会意识引导能力的算法模型实施从严复核,直面数字时代“算法权力”带来的公共风险。将面向高风险场景的高度自主自动化决策系统纳入重点监管,牢牢守住公共安全与生命健康红线。尤为重要的是,清单明确“根据工作需要动态调整”,既保持了制度的刚性约束,又赋予治理体系足够的弹性,能够随人工智能技术迭代、应用场景拓展及时更新监管范围,避免监管滞后于技术创新,实现伦理治理与人工智能发展同频共振。

应尽快出台场景化伦理审查指南

南都:《办法》提及开展人工智能科技活动应将科技伦理要求贯穿全过程,遵循保护隐私安全等七大伦理原则,您如何看待?如何加速落地执行,推动伦理治理体系全面见效?

王春晖:《办法》将“增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信”七大伦理原则,转化为可审查、可评估、可核验的具体标准,彻底打破伦理原则“抽象化、模糊化”的困境,让伦理审查有章可循、有据可依。例如个人信息与隐私是否得到充分保护,数据处理活动是否符合法律法规要求,等等。从源头避免伦理审查“走过场”“形式化”的问题,推动伦理要求真正嵌入算法设计、数据采集、模型训练、产品落地的底层逻辑,实现伦理与技术的深度融合。

而且,为确保伦理审查从“软倡议”转变为“硬约束”,《办法》还构建了一套严密的刚性约束体系,为制度落地提供坚实保障。依托国家科技伦理管理信息登记平台,实现人工智能科技伦理委员会相关情况、高风险人工智能科技活动等信息的统一登记、信息共享、全程留痕,确保监管可追溯、可核查;畅通伦理问题投诉举报渠道,健全监督机制,鼓励社会力量参与伦理监督,形成全方位、多层次的监督格局;严格遵循《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等上位法律法规,明确违法违规行为的责任追究路径,对违规开展人工智能科技活动的单位和个人依法予以处罚。

要实现治理效能的全面释放,还需聚焦落地执行,在三方面持续发力、久久为功。一是加快细分领域配套细则建设,实现上下贯通、行业适配。医疗、金融、交通、传媒、公共治理等人工智能应用密集领域,应结合行业特点,尽快出台场景化的伦理审查指南,明确具体审查要点、责任边界与评估方法;加速伦理风险评估模型、算法审计系统等技术工具的研发与普及,为基层单位开展伦理审查提供专业支撑。二是加快复合型伦理人才培养,破解专业能力瓶颈。需支持高校完善相关学科与课程体系,开设人工智能伦理、科技伦理审查等相关专业;加强对伦理审查从业人员的专项培训,培育一批既懂AI技术、又通伦理法律、兼具社会责任感的复合型审查专家队伍。三是培育“科技向善”的社会生态,形成多方共治共识。应加强人工智能伦理科普宣传,提升公众的伦理风险意识与监督能力;引导企业将伦理理念融入研发流程、企业文化与产品设计,主动履行伦理责任;支持科技社团、行业协会制定行业自律规范,推动形成政府监管、企业自治、行业自律、社会监督的多元共治格局,让“科技向善”成为全社会的共同追求。

南都:对标全球主要经济体的人工智能规制体系,此次人工智能伦理治理政策体现哪些中国特色?

王春晖:《办法》的出台不仅是我国人工智能伦理治理进程中的里程碑事件,更在全球范围内构建了一套兼具中国特色与国际共识的治理方案,为重塑全球数字治理格局贡献了“中国智慧”与“中国方案”。

对内而言,《办法》是人工智能高质量发展的制度基石与行动指引。通过前置性的伦理审查与全生命周期的风险防控,有效防范了算法歧视、隐私泄露、深度伪造、自主决策失控等潜在风险,切实筑牢了国家安全与公共利益的防线。通过划定清晰透明的合规边界,遏制“劣币驱逐良币”的恶性竞争,显著提升社会公众对人工智能技术的信任度,为技术规模化应用奠定了基础。这种制度安排倒逼企业将“伦理可信”转化为产品与服务的核心竞争力,为我国人工智能技术的国际化拓展扫清了制度障碍。

对外而言,《办法》成功塑造了“预防优先、服务导向、技术赋能、多元协同”的中国特色人工智能治理范式。这一模式既区别于欧盟侧重高强度规制的“硬法”路径,也不同于美国依赖市场主导的“软法”模式,而是探索出一条兼顾发展与安全、平衡效率与公平的“第三条道路”。它既坚守伦理底线、防范技术风险,又充分尊重技术创新规律,保障产业发展活力,为全球人工智能治理提供了具有可操作性的实践样本,显著提升了我国在全球数据与人工智能规则制定中的制度性话语权,推动全球人工智能治理体系向着更加公正合理、包容普惠的方向演进。

采写:南都N视频记者 袁炯贤

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
徐国华任广西壮族自治区副主席

徐国华任广西壮族自治区副主席

澎湃新闻
2026-11-18 17:19:32
特朗普出席欢迎宴会 一进门就驻足!聆听乐团演奏

特朗普出席欢迎宴会 一进门就驻足!聆听乐团演奏

看看新闻Knews
2026-11-18 22:36:05
室外小型气象站:防水耐候气象站,室外长期稳定运行

室外小型气象站:防水耐候气象站,室外长期稳定运行

山东博科仪器有限公司
2026-10-28 14:44:36
曲面玻璃视频疯传,爆料人称iPhone 20 Pro里程碑设计

曲面玻璃视频疯传,爆料人称iPhone 20 Pro里程碑设计

报错免疫体
2026-11-17 23:20:24
美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

极目新闻
2026-11-18 07:16:44
脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

林子说事
2026-11-18 13:52:03
国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

江启
2026-11-06 23:36:07
网上爆火的山姆包到底多好用?我们替你测了个遍

网上爆火的山姆包到底多好用?我们替你测了个遍

酷玩实验室
2026-11-18 10:49:05
英伟达,突然直线拉升!

英伟达,突然直线拉升!

证券时报
2026-11-18 18:43:03
一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

极目新闻
2026-11-16 10:06:42
探访墨西哥总统打卡过的深圳餐厅,主理人:客流翻了几倍,即将推出同款“总统套餐”

探访墨西哥总统打卡过的深圳餐厅,主理人:客流翻了几倍,即将推出同款“总统套餐”

极目新闻
2026-11-18 21:03:17
AI演员一句“戴了一天很舒服”,被罚6.8万元

AI演员一句“戴了一天很舒服”,被罚6.8万元

凤凰网财经
2026-11-17 00:22:30
莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

译言
2026-11-17 08:31:18
太阳报:斯科尔斯女儿因伤无缘无板篮球世界杯,心碎发文

太阳报:斯科尔斯女儿因伤无缘无板篮球世界杯,心碎发文

懂球帝
2026-11-18 20:36:46
一旦恢复该规定,中国结婚率或将大幅上涨,离婚率也会有所下降

一旦恢复该规定,中国结婚率或将大幅上涨,离婚率也会有所下降

福建睿平
2026-10-28 07:23:25
阿里员工:P7在杭州相亲市场地位大不如以前了。看中两个女生,一个护士,一个教师,联系方式都没给

阿里员工:P7在杭州相亲市场地位大不如以前了。看中两个女生,一个护士,一个教师,联系方式都没给

蚂蚁大喇叭
2026-11-18 16:37:48
陆毅18岁女儿贝儿官宣签约百沐娱乐,正式以歌手出道!一波星二代扎堆涌来

陆毅18岁女儿贝儿官宣签约百沐娱乐,正式以歌手出道!一波星二代扎堆涌来

露珠聊影视
2026-11-18 14:36:57
刚刚!苹果新品突然上架,真的心动啊

刚刚!苹果新品突然上架,真的心动啊

科技堡垒
2026-11-18 08:00:35
从全美五星到四年四队!格雷姆斯47分之夜,拯救湖人也证明了自己

从全美五星到四年四队!格雷姆斯47分之夜,拯救湖人也证明了自己

林小湜体育频道
2026-11-18 16:21:42
96分钟绝杀,哈兰德双响导演大逆转!0-2到3-2,挪威奇迹晋级8强

96分钟绝杀,哈兰德双响导演大逆转!0-2到3-2,挪威奇迹晋级8强

我的护球最独特
2026-11-18 05:52:43
2026-11-19 00:23:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644260文章数 3591431关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
时尚
手机
艺术
本地

教育要闻

老北京“拔根儿”争霸赛,嗨翻校园——

穿好“长大衣”,这8个细节很重要!

手机要闻

2nm双芯悬案!vivo X Fold7不跟风阔折叠,先把散热账算明白了

艺术要闻

洛阳发现唐代墓志,将魏碑、唐楷精髓融于一体,比欧颜柳赵的字更耐看!

本地新闻

乌兰察布:以前种土豆,现在种Token

无障碍浏览 进入关怀版