王坚谈AI风险：AI不是替代谁，而是帮助谁

来源：市场资讯

（来源：21世纪经济报道）

21世纪经济报道记者肖潇 杭州报道

阿里巴巴云栖大会进入第二天，9月25日下午，王坚在主场馆内谈到了他对AI治理和风险问题的看法。作为中国工程院院士、阿里云创始人和之江实验室主任，王坚的出现吸引了许多人涌入会场，观众一度挤到门外。这场“负责任的AI：AI风险治理与先进安全能力”的安全论坛，也成了大会的一大热门区域。

王坚表示，他觉得“负责任”的说法略带歧义，仿佛默认AI不负责任。对于怎么理解AI风险问题，王坚分享了他的三个思考：

他提到的第一件事，是2024年年9月在美国纽约参加的联合国未来峰会。当时研讨会结束后，图灵奖得主Yoshua Bengio等20多位人工智能研究人员和政策专家，共同签署了《关于人工智能包容性全球科学理解的曼哈顿宣言》(The Manhattan Declaration on Inclusive Global Scientific Understanding of Artificial Intelligence)，为人工智能的发展和治理制定了10条原则。

“最后我们二十多个人形成的一个共识，就是要把AI的能力建设和发展机遇（capability and opportunity），也要放到风险框架里来讨论。”王坚说，AI的意义因人群、地区和国家而异，复杂程度远超表面想象。

第二件事来自之江实验室的实践。王坚坦言，他们过去两年也碰到了许多挑战，包括能不能将一篇论文投喂给大模型作为训练数据。“每个问题都是一个新问题，每个问题都在挑战我们传统的习惯。”

王坚举例，今天一篇研究论文发表后，作者不但自己要为阅读付费，要想让论文被更多读者看到，还需要付出巨大的经济成本，并非单纯靠版物发表拿收益。“很多大家普遍觉得正确的事情，其实我们还没有搞明白到底是不是正确。”

第三件事关于看待AI的视角。王坚提到两种常见的比喻：一句是“ChatGPT 是人工智能的 iPhone 时刻”；另一句是去年杰弗里·辛顿获得诺贝尔物理学奖时，《大西洋杂志》评价为AI的青霉素和X光时刻。

王坚更认同后者，可能是因为前者把AI比喻成一种消费产品，而后者更突出AI对人类的贡献作用。王坚强调，在今天讨论人工智能安全伦理问题时，最常见的一个话题是“人工智能要替代什么”。但在他看来，相比AI要替代谁，更值得思考的是AI究竟帮助了谁。

“我个人的观点，有病人才有医生，医生的价值是能不能帮病人治病。”AI同理，应当从它能提供的实际帮助出发来衡量价值。

王坚表示，他最近经常挂在嘴边的是一句图灵名言：一个人有一张纸、一支笔，再加上一个橡皮擦，就是一台通用机器。在没有人工智能概念的年代，图灵就已揭示了人类与工具的关系。“我想说的是，今天的人工智能也没有任何神秘的东西。这个时代的纸和笔永远不能替代大脑，但是大脑离开了纸和笔什么都做不成。”