对话图灵奖得主希发基思：模型检测暂无法“框住”人工智能系统

南方财经 21世纪经济报道记者吴斌 上海报道

1979年，约瑟夫·希发基思（Joseph Sifakis）提出了通过对时序逻辑公式的计值来验证并发系统性质的思想，得到了一系列理论结果，包括对含有“可能”和“必然”模态算子的分支时序逻辑的不动点刻划。在此基础上，他进一步提出了带有“until”算子的分支时序逻辑来表达“公平性”。

他的这些工作与卡耐基梅隆大学教授Edmund Clarke、得克萨斯大学奥斯汀分校教授Allen Emerson同时期的工作一起，为模型检测这个研究领域的创立和发展奠定了理论基础。由于对模型检测的开创性贡献，他与Clarke、Emerson分享了2007年图灵奖。

模型检测擅长验证一个系统模型是否满足规约，我们能否将整个AI系统或其关键组件视为一个“模型”，并为其编写“永不伤害人类”或“保持公平性”这样的规约并进行验证？这条路可行吗？

2025可持续全球领导者大会于10月16日-18日在上海市黄浦区世博园区召开，2007年图灵奖得主、Verimag实验室创始人约瑟夫·希发基思在接受21世纪经济报道记者采访时表示，目前这还不是一种可行的方法。模型检测依赖于关于系统、行为的数学模型，可以进行检验，可以运用数学来分析这种行为，但对人工智能系统暂不适用。

模型检测暂无法“框住”人工智能系统

如今，模型检测已被应用于计算机硬件、软件、通信协议、安全认证协议等领域，取得了巨大的成功，成为分析、验证并发系统性质的最重要的技术，被Intel、IBM、微软等公司用于日常生产实践中。

但对于人工智能系统，希发基思表示，目前无法提取数学模型，人工智能的神经网络模仿人类大脑的神经网络，而我们无法建模，不知道如何将模型检测技术应用于人工智能系统。

在希发基思看来，模型检测暂无法“框住”人工智能系统。传统系统和基于AI的系统在可靠性方面有不可逾越的鸿沟，目前应严格应用风险管理原则，控制人工智能风险是实现社会效益的前提。

面向未来，约瑟夫·希发基思认为，需要制定全面的以人为中心的技术愿景，明确识别人工智能当前状态的弱点，动员研究，促进国际合作，共同探索新的途径。在实现这一愿景的过程中，全球标准和法规的制定将发挥核心作用，目前达成协议的可能性很小。

中国是发展人工智能的沃土

希发基思与中国渊源颇深，他亲自指导了六名中国留学生和博士后，这些学生已成为中国科学院软件所、浙江大学等单位的科研骨干。2017年8月开始, 他担任清华大学计算机学科顾问委员会委员。2019年1月开始，他出任南方科技大学杰出教授。

在他担任欧盟ARTIST嵌入式系统研究联盟科学协调人期间，极力推动欧盟与中国在该领域的合作。在他领导下，该研究联盟从2006年至2011年在中国举办了六届嵌入式系统设计讲习班，邀请国际上嵌入式系统的知名专家为国内的研究生和青年学者讲课。

此外，希发基思频繁来中国开展学术访问，在中国科学院软件所、计算所、清华大学、北京大学、西北工业大学、东北大学、哈尔滨工业大学、华东师范大学、深圳大学、华为公司等处做学术报告。

在他看来，中国比任何其他国家都更有条件发展全面的、技术的、以人为中心的人工智能愿景，这不仅是创造最强大的人工智能，而且注重服务社会，特别是确保有效的社会治理。

展望未来，希发基思表示，中国在整合创新方面已经很强大，需要在颠覆性创新方面迎头赶上，鼓励科研和产业之间的合作，创造创新生态系统。中国可以利用强大的工业基础，与需要日益智能的产品和服务的工业部门合作，如自主交通系统、智慧城市、智慧工厂和农场、智能电网和自主电信网络。