我国全功能接入互联网30年，上海交大校长丁奎岭：不仅用别人的锅做自己的饭

摘要：涵盖数据泄露、算法偏见、系统失控等多个方面，这些风险可能引发隐私侵犯、决策不公、甚至社会伦理问题。

今年，我国全功能接入互联网30年。30年间，互联网生态可谓翻天覆地，中国发展为世界第一网民大国，网上也多了重量级的“网友”：人工智能。

5日，在徐汇西岸举行的2024世界人工智能大会“加速‘人工智能+’构筑新质生产力”论坛上，《人工智能安全作为全球公共产品》研究报告首发。

“‘人工智能+’为构建新质生产力注入活力的最好途径是教育、科技、人才三位一体推进。”中国科学院院士、上海交通大学校长丁奎岭表示，上海交大新成立的人工智能学院聚焦培育人工智能底层技术的创新引领者，“不仅培养学生能够‘用别人的锅来做自己的饭’，还要让他们具备‘铸铁造锅’的能力，在理解当前人工智能技术的基础上，开发下一代底层技术。”他说，“以人工智能学院为牵引，交大各学科正在技术安全、数据安全、隐私安全以及治理体系等方面紧密协作，将‘以人为本，智能向善’的理念落到实处。”

与互联网一样，在人工智能高度渗透的网络世界，安全处在底层，也是底线。上海交通大学计算机科学与工程系教授、约翰·霍普克罗夫特计算机科学中心执行主任郁昱认为，人工智能安全风险具有隐蔽性、广泛性和复杂性等特征，其表现涵盖数据泄露、算法偏见、系统失控等多个方面，这些风险可能引发隐私侵犯、决策不公、甚至社会伦理问题。“中国在人工智能安全治理是政策引领与技术创新并重的治理，既明确安全底线，又鼓励技术创新，也是产学研深度融合的治理。”

解放日报·上观新闻记者了解到，新发的研究报告首次提出将人工智能安全作为全球公共产品的理念，并结合公共原则、科学原则、责任原则、敏捷原则等4个原则发起推动“人工智能安全作为全球公共产品”的行动倡议。报告直面当前及未来人工智能领域所面临全球合作难题，为应对跨国安全威胁、推动安全治理标准的统一与协调、促进人工智能技术的国际合作提供了行动指南。

清华大学文科资深教授、苏世民书院院长薛澜解析了人工智能技术在应用及合作过程中可能遇到的安全问题和风险挑战。他指出，人工智能安全作为全球公共产品，具有非排他性和非竞争性，其治理离不开全球各国政府、机构的共识与努力，推动人工智能全球治理及国际合作对构建人类命运共同体具有重大意义。

“中国在人工智能安全治理方面积极探索，通过政策引导、技术研发等多维度措施，为产业健康发展筑起安全防线。”上海交大人工智能安全与治理研究中心执行主任贾开教授表示，“我们深知这一挑战具有全球性，需要国际社会加强合作，分享治理经验，共同构建人工智能安全治理的国际框架和标准，推动形成更加开放、协同、可持续的治理格局，共享人工智能技术为人类带来的福祉和发展机遇。”

据悉，首发报告由上海交通大学国际与公共事务学院、上海人工智能实验室治理研究中心、清华大学产业发展与环境治理研究中心和中央广播电视总台超高清视音频制播呈现国家重点实验室共同起草。当天，各方联合21家机构共同发起“西岸对话：人工智能安全与治理对话网络”。同时，中国首部生成式人工智能（AIGC）动画电影《团圆令》现场开机。