程金华委员：AI就像孙悟空，拥有超凡力量，也要设法律“紧箍咒”

“人工智能行业的发展，已经从原先的拼技术、拼资本，到了拼制度的时候。”2026年上海两会期间，市政协委员、上海交通大学图书馆馆长程金华在接受澎湃新闻（www.thepaper.cn）记者采访时表示。

市政协委员、上海交通大学图书馆馆长程金华。受访者供图

过去几年，大家把更多的关注度放在人工智能产业的技术发展和资本投入上。如今，越来越多的产品应用落地，服务人群规模颇为可观，且技术发展又还未到不可控制的地步。程金华认为，是时候把关注度落到制度上来，“法律其实是新技术实现稳定产业化和可持续盈利的重要因素，类似于行业的‘制度阀门’。”

2026年1月，国内首起AI服务提供者涉黄获刑案引发广泛关注。程金华指出这正是一个典型案例，当前人工智能行业整体上还处于重视数量的初级发展阶段，企业和产品进入市场的门槛相对较低，行业规范和法律标准过于宽泛，导致市场乱象环生。

另一方面，现有法律对人工智能这样的颠覆性技术又存在规范过严的问题，行业发展面临沉重的制度“镣铐”。例如，可信数据大部分受到版权保护或者由政府拥有，大模型训练难以获得全面且精准的语料。语料不全、不精准，容易导致大模型训练的“数据偏食”，进而产生或者加重“AI幻觉”。

程金华打了一个形象的比方：“人工智能有点像孙悟空，拥有超凡的力量，可以造福人类，但一旦失控，就会造成不可估量的破坏。我们需要给人工智能设立一套宽严相济的法律‘紧箍咒’，把上海打造成全球人工智能治理的制度高地，以治理优势持续引领行业发展。”

对于法律规范过严问题，他建议加强上海公共数据对人工智能企业的动态开放，鼓励龙头企业建设行业语料库技术标准，确保医疗健康等重点领域垂类大模型的语料来源均衡、数据精准并且及时更新；及时修订《上海市促进人工智能产业发展条例》，可以借鉴自贸区立法经验，争取全国人大常委会特别授权，加强上海地方立法对行业治理的前瞻性、突破性制度探索。

对于门槛太低导致的市场乱象，程金华希望“最前沿的利益相关者能够去思考规范性的问题”，一个成熟的市场首先要有行业的标准，然后是监管标准，最后才到法律层面。他提出要鼓励行业协会先行制定企业与产品的分类体系，加强政府的认证认可与质量监督工作。借助世界人工智能大会的平台效应，成立“人工智能产业发展法治保障共同体”，推动行业规范与法律规范一体建设，确保企业合规经营、产品无害于民。

此外，程金华还建议对语料“合理使用”等关键性制度问题形成一批创新性典型案例，完善涉人工智能不正当竞争等新类型案件的裁判规则，深化技术调查官、专家陪审等“外脑”支持，为企业合规经营提供稳定预期。

澎湃新闻记者 蒋乐来