网易首页 > 网易号 > 正文 申请入驻

AI比专家更靠谱?前政要、学者预警人工智能技术风险与治理挑战

0
分享至

本文来源:时代财经 作者:张照

12月1日至3日,由澳中友好交流协会、中国人民对外友好协会、广东省人民政府和世界领袖联盟共同主办的“2025从都国际论坛”在广州从都国际会议中心举行。其中,在“人工智能:寻求创新、安全与治理的平衡”平行论坛中,全球多位前政要、知名学者及企业家齐聚一堂,深入探讨人工智能对人类社会的影响及其规范发展之道。

近几年,人工智能处于高速发展阶段,技术迭代日新月异,应用场景迅速拓展。从2018 年Google发布3亿级参数的BERT到2023年OpenAI推出万亿级MoE的GPT-4,再到2025年GPT-4o Agent API落地,从“能写句子”到“能拍电影、能进工厂、能看病”,人工智能在7年时间里完成了“学术突破、开源复现、产业落地”的三级跳,速度之快、影响之广,远超过去任何一次技术浪潮。

香港科技大学(广州)创校校长倪明选表示,在ChatGPT刚推出时,香港科技大学(广州)就鼓励学生使用AI工具,并同步提供使用指导;学校还开设培训课程、更新教材,让学生掌握最新工具。他介绍,香港科技大学(广州)本身是一所人工智能技术的大学,因此要培养人工智能的人才,就得让他们学会掌握人工智能。目前,香港科技大学(广州)已联合多家企业开展商业项目,共同推进AI技术研发与应用。

哥斯达黎加前总统劳拉•钦奇利亚指出,AI在解决复杂问题和提高效率方面具有巨大潜力,自上而下的AI系统能够分析海量数据,提供以前难以想象的见解。AI已成为推动各行业变革的关键力量,然而技术发展的速度往往超出社会对其潜在风险的适应能力。因此,在释放AI潜力的同时,必须在创新、安全与有效治理之间取得平衡,以确保其负责任地开发与部署。

爱尔兰前总理利奥·瓦拉德卡认为,AI将比互联网更深刻地改变人类。未来20到30年,AI将重塑社会结构,就像互联网和社交媒体改变了人们获取信息、理解世界的方式一样。“我在任的时候曾经制定过一项AI的政策,但是仅仅不到一年,这项政策就已经过时了。但是,政府仍然要对AI可能存在高风险的领域进行监管,譬如说人脸识别、智能支付等。”

罗马尼亚前总理彼得·罗曼则提出,AI在进行相关性分析方面表现出色,但在处理因果关系方面却困难重重。可以看到的是,AI可以被设计和用来操控人类的思维,AI正在学习如何告诉人们他们想听的内容,如今许多人对AI的信任超过了对人类权威专家的信任。

随着AI系统日益庞大、发展速度日益加快,人们面临的真正挑战可能是:如何保护人类免受人工智能的威胁。彼得·罗曼表示,“我们应当设立一个最低限度的真实标准,所有AI模型都必须遵守。几年前,在一次人工智能专题会议上,我曾提出一个类似的建议:在所有联网设备上,必须清楚标明‘这是AI’或‘这是人类’。”

法国前总统戴高乐曾孙女、PRINCEPS STRATEGY总裁娜塔莉·戴高乐指出,AI确实在取代工作,内容创作者、分析师及一些专业人士都受到了影响,甚至连“白领”工作也无法幸免。比如,拥有MBA学位的人,10年后可能会发现,AI比他们更聪明、更便宜。到那时,人们的学历、工作经验可能都变得不再重要。

但同时,AI还带来了“集中化风险”。由于AI需要巨大的计算资源,只有少数公司能够构建基础模型,而其他人只能使用这些模型。这种技术集中带来了战略风险。“作为创业者,我们必须思考:当技术被少数平台控制时,我们的商业模式是否会被架空?AI也在影响我们的思维方式。当答案总是随手可得时,我们的批判性思维能力是否会退化?”娜塔莉·戴高乐接着说道。

同时,娜塔莉·戴高乐认为,AI革命的成败,将取决于学校和大学。人们必须教育下一代,不是教他们“如何使用AI作弊”,而是教他们如何与AI共存、如何判断、如何适应持续变化的世界。将AI融入所有学科教育,每个学生都必须熟练掌握AI工具;同时,强调人类独有的技能,如创造力、批判性思维、情感共鸣。

中国科学院院士、欧洲科学院院士汤涛直言,教育的目标不仅是让学生理解人工智能的技术原理,更要引导他们掌握如何运用AI造福社会。“我们要确保有新教材、新教师,能适应这项新技术。”

除教育外,芬兰前总理玛丽·基维涅米还提出AI需要全球范围的监管框架,但不能以阻碍技术发展为代价,而这一框架的基础还由现有的法律与监管制度所奠定。例如,欧盟人工智能法案就明确提出了全球监管的必要性,因为某些技术确实需要跨国界的统一规范。

清华大学文科资深教授、苏世民书院院长薛澜则表示,他于今年初参与了联合国大会主席理事会委托的专家工作组,并提交了相关政策报告,涉及建立全球AGI(通用人工智能)观测站、建立国际AI安全与可信认证体系、推动建立AGI的联合国框架公约、启动联合国AGI监管机构可行性研究,从而推动全球AI治理从“对话”走向“制度”。

波黑前部长会议主席(前总理)、波黑常驻联合国代表兹拉特科•拉古姆季亚在发言中呼吁,各方在AI监管问题上应求同存异,立即付诸行动。他指出,面对AI的快速发展,全球生命共同体已无暇等待。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
7亿!加索尔正式联手科比遗孀!瓦妮莎想开了,官宣决定

7亿!加索尔正式联手科比遗孀!瓦妮莎想开了,官宣决定

喜欢体育的猫
2026-11-21 10:36:48
局势失控!英伟达内部对立加剧,10名董事+60名高管收到同一封“逼宫信”:看不到黄仁勋回归,便选择离场

局势失控!英伟达内部对立加剧,10名董事+60名高管收到同一封“逼宫信”:看不到黄仁勋回归,便选择离场

秋风妃
2026-11-21 14:13:31
CBA杯-广东爆冷惨负香港金牛出局 徐杰21+8+6全队仅1人上双

CBA杯-广东爆冷惨负香港金牛出局 徐杰21+8+6全队仅1人上双

醉卧浮生
2026-11-21 22:00:16
港姐季军吴文忻去世,终年 51 岁,生前已办追思会,被骗走毕生积蓄

港姐季军吴文忻去世,终年 51 岁,生前已办追思会,被骗走毕生积蓄

不写散文诗
2026-11-21 22:40:06
顺丰速运被暂停参加全军采购活动,网友:这波直接踩线了

顺丰速运被暂停参加全军采购活动,网友:这波直接踩线了

东方豪侠
2026-11-21 13:27:30
继刘欢之后,66岁郎平也步入后尘,1周至少要做3次治疗,现状忧心

继刘欢之后,66岁郎平也步入后尘,1周至少要做3次治疗,现状忧心

往史过眼云烟
2026-11-21 11:30:59
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
不匹配的高度,配得上谁?

不匹配的高度,配得上谁?

薇微笑语
2026-11-20 16:13:00
确诊不到一年,患全球罕见变异白血病小伙去世 生前最大愿望是活着陪妈妈回四川老家

确诊不到一年,患全球罕见变异白血病小伙去世 生前最大愿望是活着陪妈妈回四川老家

红星新闻
2026-11-21 15:12:39
普通人挪用三千块要吃官司,湘雅二院医生拿着千万级科研经费,用虾滑冒充肿瘤,处理结果仅仅降级留任!

普通人挪用三千块要吃官司,湘雅二院医生拿着千万级科研经费,用虾滑冒充肿瘤,处理结果仅仅降级留任!

聊斋新志
2026-11-18 16:53:43
冲上热搜!全军暂停采购八马茶业

冲上热搜!全军暂停采购八马茶业

深蓝财经
2026-11-21 16:09:33
突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

往史过眼云烟
2026-11-21 11:39:08
降薪220万欧回国!33岁中超MVP官宣离队 4年2次来华+助两队夺首冠

降薪220万欧回国!33岁中超MVP官宣离队 4年2次来华+助两队夺首冠

我爱英超
2026-11-21 19:47:23
阿奇莉莉贝特乡村校园再起风波,家长集体吵翻,状况频出

阿奇莉莉贝特乡村校园再起风波,家长集体吵翻,状况频出

朗威谈星座
2026-11-21 04:47:41
恭喜!香港女星晒二胎孕照,年初才办婚礼,曾与TVB男星拍拖五年

恭喜!香港女星晒二胎孕照,年初才办婚礼,曾与TVB男星拍拖五年

圆梦的小老头
2026-11-21 22:42:14
北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

背包旅行
2026-11-21 17:31:24
“产品难道要卖给空气”,299台注塑机仅8名工人,引全网热议!网友:机器人必须交税,把税发给失业的人

“产品难道要卖给空气”,299台注塑机仅8名工人,引全网热议!网友:机器人必须交税,把税发给失业的人

火山詩话
2026-11-21 07:08:37
菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

看看新闻Knews
2026-11-21 17:50:41
泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

澎湃新闻
2026-11-21 17:40:05
段永平再谈字节跳动6000亿美元估值:最近好几个私下找 想把股份卖我

段永平再谈字节跳动6000亿美元估值:最近好几个私下找 想把股份卖我

快科技
2026-11-21 18:44:08
2026-11-22 00:36:49
时代财经 incentive-icons
时代财经
企业第一财经读本
74471文章数 150560关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
本地
健康
公开课
军事航空

曝《海贼王》3D格斗游戏!UE5打造 超150名角色参战

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版