网易首页 > 网易号 > 正文 申请入驻

期待打造AI伦理研究与实践国际高地

0
分享至

中山大学哲学系(珠海)主任、博雅学院院长、联合实验室专家陈建洪

“联合实验室将成为国际合作的重要窗口,积极参与全球AI治理对话,提升区域在全球的影响力。”中山大学哲学系(珠海)主任、博雅学院院长、联合实验室专家陈建洪接受南都采访表示,哲学研究能为AI伦理规范提供深层基础,哲学视角能提醒技术团队坚守增进人类福祉原则,而非取代人类价值。

哲学与AI

  哲学能深入理解AI风险本质

南方都市报(以下简称“南都”):本次粤港澳大湾区生成式人工智能安全发展联合实验室会聚了各学术领域、学科的专家,您作为哲学领域的专家,觉得哲学相关的研究能为实验室的治理体系建设提供哪些独特支撑?

陈建洪:首先是价值观与伦理原则的构建。哲学研究能够深入探讨人类社会的根本价值观,如公平、正义、尊严、自由等,为AI伦理规范提供深层基础。它将有助于联合实验室明确生成式AI发展的终极目的和应遵循的基本原则,避免技术盲目发展,例如思考“公平”的AI模型应具备哪些属性。

其次是风险的本质与边界界定。哲学能帮助我们超越技术层面,深入理解AI风险的本质(如是技术缺陷、使用方式问题还是社会结构互动结果),并界定可接受的风险边界,以及如何在创新与风险之间进行权衡取舍。例如,对“可解释性”的哲学探讨可避免过度约束技术发展。

最后是责任分配与主体思考:随着AI能力增强,传统责任概念面临挑战。哲学研究能深入探讨“谁该负责”的问题,包括开发者、使用者、管理者乃至AI系统自身(作为有限主体性),并强调人类在AI发展中的主体地位,确保AI始终服务于人类福祉。

南都:在您看来,哲学视角可在哪些维度和技术治理互相补充?

陈建洪:第一,超越技术可行性的伦理审查。技术团队常关注“能否做到”,哲学视角则引入“应不应该做”的考量。在AI模型迭代、内容审核等环节,哲学伦理审查节点可引导技术团队预判社会危害和伦理风险,在研发初期就进行规避或设计限制。

第二,社会影响的预判与评估。技术治理侧重技术指标,哲学视角引导技术团队更全面思考AI对社会、文化、经济乃至个人心理健康的深远影响,促使其在设计之初就融入社会影响评估,并通过技术设计促进积极社会效应。

除此之外,公平与公正的价值嵌入也很重要。技术团队难以直接在代码层面体现抽象公平概念。哲学视角可将公平、无偏见等伦理原则转化为具体的研发规范和设计策略,例如在数据选择时强调多样性和代表性,在算法设计时鼓励偏见检测和缓解机制。

最后就是增进人类福祉的坚守。哲学视角能提醒技术团队坚守增进人类福祉原则,确保AI工具服务于人类尊严、自主和福祉,而非取代人类价值。这意味着在技术设计中,要保留人类的最终控制权和决策权,强调AI作为人类辅助的角色。

体系与机制

建立系统性偏见检测与缓解流程

南都:据了解,联合实验室将制定行业安全发展标准,形成属地化安全标准体系。如何平衡标准的严谨性与产业发展的灵活性,满足大湾区多元产业结构的需求?

陈建洪:为平衡标准的严谨性与产业发展的灵活性,实验室可采取以下策略:首先,实施分级分类管理,依据风险等级和应用场景差异,对高风险领域制定强制性标准,对低风险领域采用灵活指导原则。其次,设立“监管沙盒”机制,允许企业在受控环境中测试创新应用,为标准完善提供实践依据。再次,推进行业自律与最佳实践,鼓励行业协会制定快速响应市场的专业指引,作为官方标准的有益补充。最后,建立动态更新与迭代机制,通过常态化评估和修订,确保标准体系具备前瞻性和适用性,适应技术快速发展。

南都:语料库作为生成式AI的“知识基础”,其价值导向直接影响AI生成内容的伦理边界。您认为联合实验室应建立怎样的语料库筛选与审核机制?

陈建洪:联合实验室应建立多层次的语料库筛选与审核机制,其核心原则包括:确保语料库的多元性与代表性;建立系统性偏见检测与缓解流程;实现价值观对齐;并严格遵守数据安全与隐私保护法规。具体机制涵盖:实施数据来源严格审查与白名单准入制度;采用自动化技术与人工审核相结合的双重筛选流程,由多学科专家团队对高风险内容进行复审;开发科学的偏见评估指标与度量体系,并定期发布审计报告;引入“红队”测试进行价值观对齐的压力测试与持续迭代;整合用户反馈与众包机制;并特别注重大湾区地域文化与行业特点的融入,邀请领域专家参与审核,确保AI的适应性与准确性。

未来方向

  期待形成“大湾区AI伦理范式”

南都:在您看来,联合实验室接下来的建设运行还有哪些方向?

陈建洪:对联合实验室的建设运行主要有四方面期待。一是将其打造为AI伦理研究与实践的国际高地,通过设立专项,系统研究并输出可操作的伦理准则与治理框架,形成具有国际影响力的“大湾区AI伦理范式”。二是构建深度融合的“产学研用”生态圈,与顶尖高校及产业界紧密合作,开展科研、人才培养及行业应用示范,推动AI安全与伦理的落地实践。三是赋能区域并影响全球,通过输出高标准的安全解决方案和可推广的“大湾区经验”,助力企业提升竞争力,并积极参与全球AI治理框架制定,贡献中国智慧。四是建设开放共享的AI安全知识与资源中心,通过构建知识库、测试平台及开源数据集,降低研发门槛,激发创新活力,提升全球AI系统的安全性与可信度。

  聚焦

  联合实验室能发挥哪些独特作用

粤港澳大湾区生成式人工智能安全发展联合实验室将作为技术创新的核心引擎,通过汇聚顶尖科研资源,致力于生成式AI的前沿突破与应用转化。联合实验室聚焦安全标准制定,构建符合国际水平且适应本地实际的安全规范体系。同时充当产学研用协同交叉的桥梁,促进知识共享与技术转移,加速AI技术落地。作为高水平AI人才培养基地,输送兼具技术能力与伦理法律视野的专业力量。依托大湾区区位优势,成为国际合作窗口,积极参与全球AI治理对话,提升区域影响力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
央八定档!《两京十五日》本是冲着林更新去的,却被男一狠狠惊艳

央八定档!《两京十五日》本是冲着林更新去的,却被男一狠狠惊艳

大眼妹妹
2026-11-20 02:15:24
继《伟大的长征》后,于和伟出演60集抗日战争时期,家国史诗级大剧

继《伟大的长征》后,于和伟出演60集抗日战争时期,家国史诗级大剧

容妃
2026-11-20 16:09:25
英伟达暴跌14%,“AI交易”抛售加剧使得美股进入回调区间

英伟达暴跌14%,“AI交易”抛售加剧使得美股进入回调区间

界面新闻
2026-11-21 06:45:36
1979年索马里买26架战机赖账1700万,中方8年7次催收无果,最后发现4台报废发动机比这笔钱更值钱

1979年索马里买26架战机赖账1700万,中方8年7次催收无果,最后发现4台报废发动机比这笔钱更值钱

磊子讲史
2026-11-20 19:00:10
小泽一郎如何戳穿高市的“外交胜利”?

小泽一郎如何戳穿高市的“外交胜利”?

天真无牙
2026-11-20 12:55:47
带岳母抓妻子出轨,认出床上那人后,岳母失声尖叫

带岳母抓妻子出轨,认出床上那人后,岳母失声尖叫

雾岛夜话
2026-04-03 11:30:58
油价大降0.52元/升后“再大降”,下次11月26日调价,倒计时7天!

油价大降0.52元/升后“再大降”,下次11月26日调价,倒计时7天!

猪友巴巴
2026-11-19 09:14:41
韩国教授坦言:放眼全球,唯独韩国瞧不起中国;而在中国人眼里,压根没有韩国的位置

韩国教授坦言:放眼全球,唯独韩国瞧不起中国;而在中国人眼里,压根没有韩国的位置

z千年历史老号
2026-10-08 17:02:34
降价18.78万,奥迪 “头等舱” 新车:继续开售 !

降价18.78万,奥迪 “头等舱” 新车:继续开售 !

沙雕小琳琳
2026-11-21 08:33:12
《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质?

《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质?

唠叨说历史
2026-11-21 10:31:16
APEC中国时间|超出计划的访问,特朗普在深圳的27小时

APEC中国时间|超出计划的访问,特朗普在深圳的27小时

澎湃新闻
2026-11-20 15:09:03
“我爸是大官”韩方奕街头打死警察,判死缓不到7年却获成功减刑!

“我爸是大官”韩方奕街头打死警察,判死缓不到7年却获成功减刑!

零点历史说
2026-10-18 10:55:11
《GTA6》预告片的金发比基尼美女找到了!不是女主

《GTA6》预告片的金发比基尼美女找到了!不是女主

游民星空
2026-11-21 10:15:23
扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

头狼追球
2026-11-20 13:01:14
特朗普期待黄仁勋回归

特朗普期待黄仁勋回归

参考消息
2026-11-21 11:22:12
特朗普称普京是“朋友” 波兰总理讽刺回应:上帝,别让我们交到这样的朋友

特朗普称普京是“朋友” 波兰总理讽刺回应:上帝,别让我们交到这样的朋友

砚底沉香
2026-11-20 09:44:10
美国发出全球通缉令,逮捕中国芯片科学家陈正坤,如今近况如何?

美国发出全球通缉令,逮捕中国芯片科学家陈正坤,如今近况如何?

凡知
2026-11-21 01:31:33
两岸统一货币,台湾慌了

两岸统一货币,台湾慌了

燕梳楼频道
2026-11-20 12:16:58
《GTA6》通关了!主播连播50小时不睡 游戏内39小时

《GTA6》通关了!主播连播50小时不睡 游戏内39小时

游民星空
2026-11-20 16:16:19
NBA杯:骑士128-119击退步行者!哈登狂轰51+6+6,米切尔20分

NBA杯:骑士128-119击退步行者!哈登狂轰51+6+6,米切尔20分

全景体育V
2026-11-21 10:58:48
2026-11-21 12:16:51
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644566文章数 3591457关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

旅游
时尚
数码
教育
公开课

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版