AI比专家更靠谱？前政要、学者预警人工智能技术风险与治理挑战

本文来源：时代财经 作者：张照

12月1日至3日，由澳中友好交流协会、中国人民对外友好协会、广东省人民政府和世界领袖联盟共同主办的“2025从都国际论坛”在广州从都国际会议中心举行。其中，在“人工智能：寻求创新、安全与治理的平衡”平行论坛中，全球多位前政要、知名学者及企业家齐聚一堂，深入探讨人工智能对人类社会的影响及其规范发展之道。

近几年，人工智能处于高速发展阶段，技术迭代日新月异，应用场景迅速拓展。从2018 年Google发布3亿级参数的BERT到2023年OpenAI推出万亿级MoE的GPT-4，再到2025年GPT-4o Agent API落地，从“能写句子”到“能拍电影、能进工厂、能看病”，人工智能在7年时间里完成了“学术突破、开源复现、产业落地”的三级跳，速度之快、影响之广，远超过去任何一次技术浪潮。

香港科技大学（广州）创校校长倪明选表示，在ChatGPT刚推出时，香港科技大学（广州）就鼓励学生使用AI工具，并同步提供使用指导；学校还开设培训课程、更新教材，让学生掌握最新工具。他介绍，香港科技大学（广州）本身是一所人工智能技术的大学，因此要培养人工智能的人才，就得让他们学会掌握人工智能。目前，香港科技大学（广州）已联合多家企业开展商业项目，共同推进AI技术研发与应用。

哥斯达黎加前总统劳拉•钦奇利亚指出，AI在解决复杂问题和提高效率方面具有巨大潜力，自上而下的AI系统能够分析海量数据，提供以前难以想象的见解。AI已成为推动各行业变革的关键力量，然而技术发展的速度往往超出社会对其潜在风险的适应能力。因此，在释放AI潜力的同时，必须在创新、安全与有效治理之间取得平衡，以确保其负责任地开发与部署。

爱尔兰前总理利奥·瓦拉德卡认为，AI将比互联网更深刻地改变人类。未来20到30年，AI将重塑社会结构，就像互联网和社交媒体改变了人们获取信息、理解世界的方式一样。“我在任的时候曾经制定过一项AI的政策，但是仅仅不到一年，这项政策就已经过时了。但是，政府仍然要对AI可能存在高风险的领域进行监管，譬如说人脸识别、智能支付等。”

罗马尼亚前总理彼得·罗曼则提出，AI在进行相关性分析方面表现出色，但在处理因果关系方面却困难重重。可以看到的是，AI可以被设计和用来操控人类的思维，AI正在学习如何告诉人们他们想听的内容，如今许多人对AI的信任超过了对人类权威专家的信任。

随着AI系统日益庞大、发展速度日益加快，人们面临的真正挑战可能是：如何保护人类免受人工智能的威胁。彼得·罗曼表示，“我们应当设立一个最低限度的真实标准，所有AI模型都必须遵守。几年前，在一次人工智能专题会议上，我曾提出一个类似的建议：在所有联网设备上，必须清楚标明‘这是AI’或‘这是人类’。”

法国前总统戴高乐曾孙女、PRINCEPS STRATEGY总裁娜塔莉·戴高乐指出，AI确实在取代工作，内容创作者、分析师及一些专业人士都受到了影响，甚至连“白领”工作也无法幸免。比如，拥有MBA学位的人，10年后可能会发现，AI比他们更聪明、更便宜。到那时，人们的学历、工作经验可能都变得不再重要。

但同时，AI还带来了“集中化风险”。由于AI需要巨大的计算资源，只有少数公司能够构建基础模型，而其他人只能使用这些模型。这种技术集中带来了战略风险。“作为创业者，我们必须思考：当技术被少数平台控制时，我们的商业模式是否会被架空？AI也在影响我们的思维方式。当答案总是随手可得时，我们的批判性思维能力是否会退化？”娜塔莉·戴高乐接着说道。

同时，娜塔莉·戴高乐认为，AI革命的成败，将取决于学校和大学。人们必须教育下一代，不是教他们“如何使用AI作弊”，而是教他们如何与AI共存、如何判断、如何适应持续变化的世界。将AI融入所有学科教育，每个学生都必须熟练掌握AI工具；同时，强调人类独有的技能，如创造力、批判性思维、情感共鸣。

中国科学院院士、欧洲科学院院士汤涛直言，教育的目标不仅是让学生理解人工智能的技术原理，更要引导他们掌握如何运用AI造福社会。“我们要确保有新教材、新教师，能适应这项新技术。”

除教育外，芬兰前总理玛丽·基维涅米还提出AI需要全球范围的监管框架，但不能以阻碍技术发展为代价，而这一框架的基础还由现有的法律与监管制度所奠定。例如，欧盟人工智能法案就明确提出了全球监管的必要性，因为某些技术确实需要跨国界的统一规范。

清华大学文科资深教授、苏世民书院院长薛澜则表示，他于今年初参与了联合国大会主席理事会委托的专家工作组，并提交了相关政策报告，涉及建立全球AGI（通用人工智能）观测站、建立国际AI安全与可信认证体系、推动建立AGI的联合国框架公约、启动联合国AGI监管机构可行性研究，从而推动全球AI治理从“对话”走向“制度”。

波黑前部长会议主席(前总理)、波黑常驻联合国代表兹拉特科•拉古姆季亚在发言中呼吁，各方在AI监管问题上应求同存异，立即付诸行动。他指出，面对AI的快速发展，全球生命共同体已无暇等待。