网易首页 > 网易号 > 正文 申请入驻

AI赋能科技伦理审查再升级

0
分享至

7月17日,2026世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。在大会系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。一起来看都有哪些升级→

7月17日,上海,在2026世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2026)系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。“一鉴”由中国科协—复旦大学科技伦理与人类未来研究院、复旦大学可信具身智能研究院牵头,联合哲学学院、生命科学学院、附属中山医院等协同研发,并获复旦大学科学技术研究院与上海人工智能实验室支持,致力于以人工智能赋能科技伦理审查,为负责任创新提供可解释、可追溯、可复核的智能辅助。项目充分发挥复旦大学综合性、研究型大学的学科优势,把哲学伦理、人工智能、公共治理和国际研究相结合,形成具有复旦特色的“AI+伦理治理”交叉创新体系。

“半亩方塘一鉴开,天光云影共徘徊”。“一鉴”寓意以科技之“镜”照鉴潜在风险,为科研创新守住伦理底线,守护生命尊严与公共利益。2025年,“一鉴”作为全球首个专为科技伦理审查打造的AI智能体系统亮相世界人工智能大会,率先探索人工智能赋能伦理审查的复旦路径。时隔一年,“一鉴”2.0发布,标志着复旦大学在科技伦理治理智能化、标准化和国际化方向上迈出新的关键一步。

科技创新加速,伦理治理先行

近年来,中国政府高度重视科技伦理治理,持续完善国家、区域/专业和机构三个层次的伦理审查体系:以国家科技伦理委员会及分领域专业委员会加强统筹指导,以区域或专业伦理审查中心提升协同服务能力,以高校、科研机构、医疗卫生机构和企业伦理委员会落实主体责任。伦理委员会是促进负责任研究和负责任创新的重要制度安排。进入AI for Science时代,人工智能深度嵌入科学发现、医学研究和社会治理,也带来更加复杂的伦理风险、规则冲突和责任边界问题。

从1.0到2.0:从基础研究拓展至人工智能医学

2025年发布的“一鉴”1.0版本,主要聚焦基础研究伦理审查,围绕受试者保护、知情同意、隐私安全、数据使用和风险受益评估等问题,形成基础的伦理风险识别和审查辅助能力。经过试点应用和专家反馈,1.0版本已具备一定的伦理分析、规则匹配和报告生成能力。

今年升级的“一鉴”2.0,重点扩展至人工智能伦理审查,尤其聚焦人工智能医学这一关键领域,回应《人工智能应用伦理安全指引1.0》关于开发、服务提供和使用环节伦理安全治理的要求。相较于1.0版本,2.0版本实现三大升级:

规则升级

围绕基础研究和人工智能医学两类已开展应用校准的审查场景,构建智能审查规则库;同时将生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等方向作为知识储备和规则梳理对象,支持自定义规则配置、持续迭代和后续拓展。

智能体升级

基于专家反馈强化学习,聚焦基础研究和人工智能医学两大方向,实现智能体与领域专家在审查重点、评价尺度和专业表达上的深度对齐,持续提升专业审查能力。

应用升级

已在复旦大学科研院和国家人工智能应用中试基地(医疗领域,主体单位为复旦大学附属中山医院)开展试点应用,并完成国产算力平台私有化部署,提供覆盖审查全流程的在线审查系统和智能体辅助能力,提升审查效率和质量。

从知识底座到场景校准

此次升级的重点,不是简单扩大知识覆盖面,而是把知识建设、规则提取和专家校准结合起来。团队已阶段性整理法律法规、部门政策、伦理指南、技术标准、典型案例等1200余条高相关语料,形成面向医学伦理、人工智能伦理、科技伦理和科研诚信等方向的知识底座。所有材料均按照来源、发布机构、发布时间、生效与修订状态、现行有效性、适用场景、风险点、权威等级和版权授权状态等进行标准化,为模型提供可验证、可引用、可维护的专业知识来源。

科技伦理审查并非机械的规则匹配,而是一项高度依赖领域知识和专家经验的专业工作。真正的伦理审查能力,需要结合具体领域,通过专家校准与实践应用持续优化,实现与领域专家审查标准的深度对齐。

在“一鉴”2.0系统中,不同类型的数据发挥着不同的作用。规范指南用于构建知识库和规则库,典型案例用于构建风险警示库和教育案例库;而真正决定智能体审查能力的,是与具体审查场景相匹配的领域规则、专家标注和专家反馈数据,通过专家反馈强化学习持续实现与领域专家的深度对齐。

目前,“一鉴”2.0已完成基础研究和人工智能医学两大领域的专家反馈优化和应用校准。生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等领域已完成知识储备和规则体系建设,后续将结合实际应用场景,逐步开展专家校准和专项优化,持续拓展智能体的专业审查能力。

可追溯、可复核、可验证

“一鉴”2.0的价值,在于让伦理审查从“经验辅助”走向“依据可追溯、过程可复核、能力可验证”。系统不是替代伦理委员会,而是帮助研究者与伦理专家更快定位风险、更准匹配规则、更清楚说明依据;同时支持本地化部署和安全管理,保障科研数据、医疗数据和审查材料安全合规。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
谢霆锋买的8500万豪宅,房产证里写的不是谢贤,竟然是谢家钰?

谢霆锋买的8500万豪宅,房产证里写的不是谢贤,竟然是谢家钰?

动物奇奇怪怪
2026-07-22 16:42:54
柬埔寨抓了条“大鱼”!内鬼浮出水面,竟是我们信任的商会长?

柬埔寨抓了条“大鱼”!内鬼浮出水面,竟是我们信任的商会长?

李云飞Afey
2026-06-19 19:06:51
博主爆料华山没游客,并非暑假没人,而是自己作没的,网友已清醒

博主爆料华山没游客,并非暑假没人,而是自己作没的,网友已清醒

谭谈社会
2026-07-19 19:30:16
无罪自卫却遭全网抵制!美国大批黑人博主围堵中餐馆,套路太离谱

无罪自卫却遭全网抵制!美国大批黑人博主围堵中餐馆,套路太离谱

小徐讲八卦
2026-07-22 10:21:29
旗袍女神:那不是符号,是我在经纬之间重新认领自己的节奏

旗袍女神:那不是符号,是我在经纬之间重新认领自己的节奏

疾跑的小蜗牛
2026-07-23 20:58:45
杠上了!周星驰风波升级,李嘉明再曝猛料,小18岁娇妻底裤被扒

杠上了!周星驰风波升级,李嘉明再曝猛料,小18岁娇妻底裤被扒

解锁世界风云
2026-07-24 03:09:20
家庭心理学:生儿子的家庭,只要儿子结婚后分开住,不出四载,父母和儿子基本就处成了亲戚

家庭心理学:生儿子的家庭,只要儿子结婚后分开住,不出四载,父母和儿子基本就处成了亲戚

心理观察局
2026-07-10 06:55:05
比万茜漂亮,搭档胡歌、孙红雷,央视也力捧她,为何始终难出圈?

比万茜漂亮,搭档胡歌、孙红雷,央视也力捧她,为何始终难出圈?

史行途
2026-07-04 15:20:23
高温杀不死新冠!6 月确诊 7.9 万,这些高危人群一定要警惕

高温杀不死新冠!6 月确诊 7.9 万,这些高危人群一定要警惕

猫大夫医学科普
2026-07-23 06:48:58
爆了!41岁库里2年1.367亿续约!?

爆了!41岁库里2年1.367亿续约!?

贵圈真乱
2026-07-23 10:45:41
证监会:深化改革提升制度包容性适应性

证监会:深化改革提升制度包容性适应性

财联社
2026-07-23 20:42:03
自驾新能源汽车跨境突遭远程锁车30多小时 车主:事前未提醒出境会被锁车

自驾新能源汽车跨境突遭远程锁车30多小时 车主:事前未提醒出境会被锁车

封面新闻
2026-07-22 21:54:10
一个残忍的真相:你和任何人相处,只要你表现出小心翼翼、处处迎合、生怕对方不高兴,对方就会从骨子里轻视你,而且你越讨好,对方越嫌弃

一个残忍的真相:你和任何人相处,只要你表现出小心翼翼、处处迎合、生怕对方不高兴,对方就会从骨子里轻视你,而且你越讨好,对方越嫌弃

心理观察局
2026-07-05 06:28:09
图片报:博阿滕解除奥利塞的租房合同,球员需另寻住所

图片报:博阿滕解除奥利塞的租房合同,球员需另寻住所

懂球帝
2026-07-23 14:45:21
陈永贵退休享受什么待遇?胡耀邦亲自指示,他一家人落户北京

陈永贵退休享受什么待遇?胡耀邦亲自指示,他一家人落户北京

南书房
2026-07-22 20:45:04
伊朗总统披露穆杰塔巴近况:“我们与敬爱的最高领袖之间的互动正日益增加,这样才能在他的指导下解决问题”

伊朗总统披露穆杰塔巴近况:“我们与敬爱的最高领袖之间的互动正日益增加,这样才能在他的指导下解决问题”

政知新媒体
2026-07-22 23:07:24
一个从中国搬回日本的日本博士,破防了

一个从中国搬回日本的日本博士,破防了

日本物语
2026-07-05 20:35:41
陈伟霆一家3口海边游,岳母和2个保姆出镜,9个月儿子露正脸漂亮

陈伟霆一家3口海边游,岳母和2个保姆出镜,9个月儿子露正脸漂亮

椰黄娱乐
2026-07-17 12:05:07
西安中考12名满分考生名单公布,优质生源集中戳破普通逆袭神话

西安中考12名满分考生名单公布,优质生源集中戳破普通逆袭神话

鬼菜生活
2026-07-23 16:43:42
女团出身被贴标签,孙娜恩自曝转型演员的真实困境

女团出身被贴标签,孙娜恩自曝转型演员的真实困境

时光慢旅人
2026-07-23 00:01:37
2026-07-24 03:39:00
中国科协之声 incentive-icons
中国科协之声
中国科协官方公众平台。传播科协声音,凝聚价值共识,弘扬创新文化,展示科协形象。
4005文章数 4445关注度
往期回顾 全部

科技要闻

中国数学家王虹、邓煜获菲尔兹奖

头条要闻

女副部王峻被处理:大搞权钱交易 泄露工作秘密

头条要闻

女副部王峻被处理:大搞权钱交易 泄露工作秘密

体育要闻

勇士24岁的MVP,也是个勒布朗?

娱乐要闻

梁朝伟汤唯19年后境遇反转

财经要闻

梁文锋当不成赛博圣人

汽车要闻

满配华为乾崑六件套 东风奕派M8限时权益价16.58万起

态度原创

艺术
时尚
数码
本地
军事航空

艺术要闻

战斗民族宅男集体失眠!扎伊采娃镜头下这组慵懒私房照,尺度不大,后劲极大!

我花40万追的老公,被公司亲手毁了

数码要闻

三星Galaxy Z Fold8系列发布:8999元起 首款「阔折叠」亮相

本地新闻

跟着影视去旅行:西游篇

军事要闻

"镐山"之后美再威胁袭伊基础设施 伊朗:将以牙还牙

无障碍浏览 进入关怀版