2022世界人工智能大会 ｜ AI治理白皮书来了 践行“负责任且可评估”的人工智能

资料图：新民晚报记者 刘歆 摄

新民晚报讯（记者 郜阳）在2022 WAIC世界人工智能大会“亚洲科技伦理治理与可持续发展论坛”上，商汤科技正式发布《“平衡发展”的人工智能治理白皮书——商汤人工智能伦理与治理年度报告（2022年）》。

报告指出，当前，人工智能治理已经进入了以技术验证为主的落地实践阶段。今年以来，新加坡、欧盟、美国、中国等国家的监管机构和第三方机构纷纷发布AI治理测试工具箱、技术监管沙箱，推进AI治理的落地实施。

从发展历程看，人工智能治理至今已经经历了以原则讨论为主的1.0阶段，以政策讨论为主的2.0阶段。进入2022年，随着全球人工智能治理进程的持续推进，以及可信、负责任人工智能等相关理念的持续渗透，有关验证人工智能治理如何落地实施的倡议日益增多。人工智能治理开始进入以技术验证为主的3.0阶段，即落地实践阶段。

而目前，人工智能治理的落地实践仍面临许多挑战，各行各业需要重点处理“理念与行动”“政策与实践”“技术与用户”三组关系，即将人工智能伦理的共同原则付诸实施；将政策要求转化为技术和业务团队可执行的实践标准；处理好技术与用户间的关系，推动用户对AI治理的认知，最终才能深入推进人工智能治理。

商汤科技基于对全球人工智能治理诉求的分析，结合自身对技术和市场的理解，在白皮书中提出，“人工智能治理应当是一个价值牵引、技术先行、多方参与、分层推进的动态进程”，为人工智能治理的落地实践建立了有效路径。

从治理效果看，人工智能治理的实现由低至高，可分为可用、可靠、可控、可信四个层次。其中，“可用”是指人工智能系统在功能、性能层面应当能够满足应用场景需求；“可靠”是指人工智能系统在安全性、鲁棒性层面应当能够满足部署环境和可持续运营要求；“可控”是指人工智能系统在功能层面应当能够充分保护人类的自主意志和权利、保障人类对系统的控制权；“可信”是指人工智能系统的设计和应用应当符合人类的价值理念和伦理道德。

据介绍，作为业界较早组建人工智能伦理与治理委员会，并将伦理治理工作当作公司战略级方向的科技创新企业，商汤自2020年1月统筹推进人工智能伦理治理工作体系建设以来，已在内部开展大量治理创新实践，并形成了一整套可评估的人工智能治理落地方案，将伦理原则嵌入到产品设计、开发、部署的全生命周期，初步形成了人工智能治理闭环。

【延伸阅读】标准化将让AI算法创造无限可能