京师律师从法律视角看青岛AI换脸第一案

【珠海律师、珠海法律咨询、珠海律师事务所、京师律所、京师珠海律所】

AI是当下的时代热词，人脸图像识别则是当前广泛应用的一种验证身份的技术，具有方便快捷，节约人力的优点。二者结合运用本应造福民众，但由于人脸图像存在被攻击替代伪造的可能，安全性和准确性难以保证，AI换脸用于人脸识别往往造成信息泄露、财产流失等种种严重后果，大大增加了识别过程的风险，这样的技术滥用令人难免心生担忧。人脸识别验证中存在哪些法律风险？盗用人脸信息利用AI换脸技术进行股权和法定代表人变更登记，原股东股权不翼而飞究竟应由谁承担责任？公司对公账户巨额财产流失又该如何处理？登记机关有无对变更登记材料进行实质审查的责任？错误登记后如何救济？如何防范此种风险？本文将一一为读者解开这些疑问。

案情简介

D公司成立于2019年8月21日，公司股东为都某、都某的母亲查某某、第三人崔某某，分别持有公司80%、10%、10%股权。都某自公司成立以来一直担任法定代表人，为执行董事兼经理。范某某则是都某的前女友，两人相识于世纪佳缘网站，范某某自称副团级现役军人，取得了都某信任，都某邀请范某某到自己的D公司负责日常行政管理和出纳，2021年1月两人确立恋爱关系，2021年11月底两人分手，分手后范某某亦从D公司离职。

2022年4月15日，在都某、查某某不知情的情况下，范某某、崔某某向青岛市市北区行政审批服务局申请对D公司股东和法定代表人进行变更登记，将都某持有的公司80%股权变更给范某某；将查某某持有的公司10%股权变更给崔某某；将法定代表人由都某变更为范某某，全部过程网上操作，“都某”、“查某某”、范某某、崔某某均通过人脸识别认证，后经专业机构鉴定，该次进行人脸识别认证的“都某”、“查某某”并非真正的人，而是智能AI换脸技术合成的人脸！

2022年4月18日，青岛市市北区行政审批服务局正式将都某持有的公司80%股权变更给范某某；将查某某持有的公司10%股权变更给崔某某；将法定代表人由都某变更为范某某，并在国家企业信息公示系统进行公示。D公司80%股权对应的市场价值在千万元以上，范某某盗用人脸信息再AI换脸，骗过行政审批服务局的人脸识别系统从而获得千万股权。

2022年4月28日上午，都某发现该情况后，立即要求青岛市市北区行政审批服务局予以更正。其后，都某通过打电话、去现场、12345督办等方式多次催促更正，但一直未能更正，范某某等人控制D公司并转移、挥霍大量公司资产，令都某心急如焚。无奈之下，都某、查某某为维护自身合法权益，向京师律师寻求法律帮助。在律师建议下，都某和查某某首先提起行政诉讼，以青岛市市北区行政审批局为被告，以范某某、崔某某为第三人，请求法院判决撤销2022年4月18日的工商变更登记，诉讼请求得到了一审法院的支持。一审判决作出以后，范某某不服提起上诉，二审法院驳回范某某的上诉，维持原判。据悉，该案系青岛市第一例利用智能AI技术换脸骗过工商登记系统的案件！

目前，范某某、崔某某利用智能AI换脸技术实施的工商变更登记已经全部被撤销，D公司股权回归都某、查某某，都某重新掌控了D公司控制权，同时，刑事、民事、行政等一系列、多种类的维权救济方案正在实施过程中。

判决结果

【一审法院观点】

一审法院认为，随着科技的进步和发展，工商登记行政机关从优化营商环境、提高办事效率的角度出发，大力推行全程电子化、无纸化办公，不见面审批，极大地方便了企业和群众办事。但是，高科技、新技术的应用也相应带来了一系列的问题，存在一定的风险。以本案所涉的人脸识别为例，虽然人脸识别技术已经较为完善，并被广泛应用，但仍有被篡改、伪造的可能性。《工商总局关于推行企业登记全程电子化工作的意见》【工商企注字〔2017〕43号】第二条第（四） 款第2项规定：“加强惩戒措施。对全程电子化登记过程中提供虚假身份、提交虚假材料（文件）等恶意行为，依法进行查处并限制相关人员办理企业全程电子化登记。冒用他人身份证或网上冒用他人身份签名骗取登记的，支持被侵权人依法向公安机关举报，或向有管辖权的人民法院提起民事诉讼或直接向法院提起撤销登记的行政诉讼来保护其权利。登记机关应依据法院生效判决，或依被侵权人书面申请和公安机关处罚决定冒用的事实，对相关登记事项依法予以处理”。《最高人民法院关于审理公司登记行政案件若干问题的座谈会纪要》第一条规定：“因申请人隐瞒有关情况或者提供虚假材料导致登记错误的，登记机关可以在诉讼中依法予以更正。登记机关依法予以更正且在登记时已尽到审慎审查义务，原告不申请撤诉的，人民法院应当驳回其诉讼请求。原告对错误登记无过错的，应当退还其预交的案件受理费。登记机关拒不更正的，人民法院可以根据具体情况判决撤销登记行为、确认登记行为违法或者判决登记机关履行更正职责。”本院认为，被告档案中留存的人脸识别照片虚假，不能证明D某、C某亲自操作办理了工商登记变更业务，虽然人脸识别认证系由第三方技术服务公司提供服务，出现虚假人脸识别照片验证成功的情况不可完全归责于被告，但从实际情况看，被告办理D公司变更登记行为确系依据虚假材料办理，故该变更登记行为应予以撤销。

【二审法院观点】

二审法院认为市场主体登记工作推行网上办理，在极大方便申请人办事的同时也能够提高登记效率，这是进一步优化政务服务、充分释放市场主体活力的重要举措。为便于在网上办理工作中核验身份，登记机关一般采用人脸识别技术进行实名验证。该技术在高效便捷开展网上登记工作、防止冒名登记等方面具有积极作用，但是现阶段该技术仍存在人脸识别过程中被篡改、伪造的可能。如本案中，根据上述规定，被上诉人青岛市市北区行政审批服务局对通过了“青易办签署中心微信小程序”的人脸识别验证后提交的申请材料办理了涉案的变更登记，但是显示操作人为D某以及C某的人脸识别图像明显存在以下几点问题……综合以上证据，不能认定D某、C某系本人操作办理了涉案的申请变更登记，原审法院认定该变更登记中人脸识别照片虚假并无不当。

登记机关在办理登记中负有对申请人身份核验义务以及对申请材料形式审查的义务。对于申请人身份的核验义务是否因为引入第三方人脸识别技术系统而免除的问题，本院认为，数字化人脸识别技术的引入目的在于利用高科技的身份识别技术辅助完成身份核验工作，登记机关对申请人身份的核验义务不因第三方技术系统的引入而免除，对于通过人脸识别后的图像信息，登记机关仍负有形式审查的义务，如本案中明显有违常理的人脸图像信息，登记机关在作出登记前应作出甄别并予以排除。但鉴于涉案登记行为作出时，第三方技术服务公司受限于技术条件原因，未能及时将人脸识别图像回传至被上诉人青岛市市北区行政审批服务局处，原审法院认定出现虚假人脸识别照片验证成功的情况不可完全归责于该局，符合工作实际，具有一定合理性。但是，本院仍建议被上诉人青岛市市北区行政审批服务局尽快实现第三方人脸识别图像实时回传的应用，以避免不法分子利用 AI 换脸等技术进行虚假登记。

本案中，尽管被上诉人青岛市市北区行政审批服务局对涉案登记申请尽到法定的形式审查义务，但基于本院已查明的申请人D某、C某人脸识别信息虚假的事实，故该局确系依据虚假材料作出了涉案变更登记行为，原审法院判决撤销涉案登记行为并无不妥。

律师说法

人脸图像识别技术目前在身份验证、支付等方面应用广泛，大大提升了相关业务的效率，但其技术自身还存在不完善之处，他人利用照片解锁，视频解锁冒充他人身份以实现进入特定场所，窃取财产的新闻时有出现。AI换脸技术本是一种方便快捷的图像处理技术，可以用于影视作品制作、宣传视频制作等，但被不法分子大量滥用，往往造成对他人肖像权、名誉权的侵犯，甚至形成了女明星AI换脸等黑色产业，危害社会管理秩序和网络空间安全。当二者被一起滥用于非法用途，就会呈现出更强的隐蔽性和欺骗性，一般的低精度人脸识别系统极易受到蒙蔽，受害人也往往难以察觉和防备，在获取救济时也难以证明，即使是相关行政机关也很可能受到此类技术手段的欺骗，导致作出错误判断。本案作为青岛市第一起AI换脸行政诉讼案件就是其中一个典型案例，该案例给原被告、第三方数字识别技术公司乃至有关部门、司法实务者、公司经营者和普罗大众都上了生动的一课。

于行政审批服务局在内有关部门而言，认识到人脸识别等数字技术本身尚未发展成熟、且与市场主体登记工作的适配度尚不完美，审慎地审查仍有必要，故在身份核验阶段不宜将身份信息审查的义务完全转嫁于人脸认证系统。本案被诉以后，青岛市市北区行政审批服务局才向第三方技术公司调取并掌握了相关的人脸识别信息，其证据收集滞后于登记行为数月，导致登记时登记材料真伪、登记人身份真伪难以核验，登记人利益难以保证。面对仍有可能发生的虚假登记行为，登记机关应及时与第三方技术公司反馈需求，加快人脸识别等辅助身份验证系统的技术迭代，以确保登记行为作出时证据确实、充分，其自身也可在发现明显疑点时采取人工审查、要求权利人现场提交材料办理等方式加强登记行为的准确性。有关部门也应加强对登记行为的监管，协调好登记过程中的责任分配，提高业务办理人员的责任意识，对提供虚假材料进行登记的当事人加大惩戒力度。另外，尽管对于登记机关是否需要承担实质审查义务，实践做法和裁判观点各异，但不可否认的是，即使形式审查义务也不可简化为简单的核对登记材料齐全与否的义务。材料真伪，身份真伪作为最基础的审查要素，登记机关仍应进行审慎审查，对于其中明显不符合事实或伪造的部分应当予以指出和核实，根据不同情况分别作出及时处理，切实保障群众利益。在因材料虚假发生错误登记后，无论登记机关是否存在过错，证据明显不足，缺乏合法性的行政行为均应被撤销或变更，不应混淆过错责任与行政行为效力的关系，这一更正过程最好由行政机关自行完成，以节约司法资源、减少诉累，如果行政机关不自行更正，法院则应当判决撤销行政行为。

对第三方数字识别技术公司而言，其认识到系统虽然已经能满足大多数场景下的人脸识别需要，但对于关涉当事人重大利益的场合仍有很大进步空间，目前图像完全有被黑客技术攻击替代，被使用AI换脸技术制作的图像欺骗完成识别的可能，安全性与准确性有待提升。

对原告和其他公司经营者而言则是要注意保护好自己个人信息，尤其是人脸图像、生物识别、金融账户、身份信息、行踪轨迹等一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的敏感个人信息，不能轻易被他人采集获取。在发现可能存在敏感个人信息泄露时，要及时进行应急处理如申请行为保全、挂失证件等，并固定证据以便后续进行权利救济。另外当下各种诈骗层出不穷，诈骗技术日新月异，在涉及婚恋、公司高级管理人员的聘用上，应当做好背景调查，不能轻信人言，以免引狼入室。

另外，目前由于线上办理的快捷性，企业和群众在办理各项行政登记时越来越多地倾向于线上办理。然而在涉及重大财产转移、身份变更的场合，由于线上办理提交材料迅速、提交后不易更改、缺乏对相对人的实况考察，缺乏纸质材料留存，容易造成权利受损且取证困难、获取救济困难。因此权利人应当仔细阅读有关材料内容，明确相关对象即义务、责任承担主体和权利救济主体，视情况尽量采取双方到场现场办理的方式，并可在必要时进行全程录音录像，降低无纸化办公、全程电子化带来的技术风险，在权利受侵害时也可更好地提出证据获取救济。一旦发现存在错误登记，权利受到侵害或有受到侵害之虞，由于电子渠道转让财产的迅速性，短时间内可能发生财产大量流失，为保证最大限度挽回损失、获取救济，非专业人士应尽快联系有关部门寻求帮助，或联系律师进行相关保全和后续处理，以免损失进一步扩大甚至造成无法挽回的后果。如需自行处理，也应当及时保存证据，通过与对方协商，向登记部门申诉，请求公安部门介入等方式主动维权；维权不成时，可通过申请仲裁、提起诉讼等方式维护自身合法权益。相关部门也应积极主动履职，加强对合作的第三方技术公司的监督，维护群众合法权益，不宜主张技术免责或推诿责任，无视群众的权利保障和救济需求。

附法条指南

《中华人民共和国行政诉讼法》第七十条行政行为有下列情形之一的，人民法院判决撤销或者部分撤销，并可以判决被告重新作出行政行为：

（一）主要证据不足的；

（二）适用法律、法规错误的；

（三）违反法定程序的；

（四）超越职权的；

（五）滥用职权的；

（六）明显不当的。

《中华人民共和国行政诉讼法》八十九条人民法院审理上诉案件，按照下列情形，分别处理：

（一）原判决、裁定认定事实清楚，适用法律、法规正确的，判决或者裁定驳回上诉，维持原判决、裁定；

《中华人民共和国市场主体登记管理条例》第六条第二款县级以上地方人民政府承担市场主体登记工作的部门应当优化市场主体登记办理流程，提高市场主体登记效率，推行当场办结、一次办结、限时办结等制度，实现集中办理、就近办理、网上办理、异地可办，提升市场主体登记便利化程度。

《中华人民共和国市场主体登记管理条例》第十五条市场主体实行实名登记。申请人应当配合登记机关核验身份信息。

《中华人民共和国市场主体登记管理条例实施细则》第十六条在办理登记、备案事项时，申请人应当配合登记机关通过实名认证系统，采用人脸识别等方式对下列人员进行实名验证：（一）法定代表人、执行事务合伙人（含委派代表）、负责人；（二）有限责任公司股东、股份有限公司发起人、公司董事、监事及高级管理人员；（三）个人独资企业投资人、合伙企业合伙人、农民专业合作社（联合社）成员、个体工商户经营者；（四）市场主体登记联络员、外商投资企业法律文件送达接受人；（五）指定的代表人或者委托代理人。因特殊原因，当事人无法通过实名认证系统核验身份信息的，可以提交经依法公证的自然人身份证明文件，或者由本人持身份证件到现场办理。

《中华人民共和国市场主体登记管理条例》第十七条申请人应当对提交材料的真实性、合法性和有效性负责。

第十九条登记机关应当对申请材料进行形式审查。对申请材料齐全、符合法定形式的予以确认并当场登记。

《最高人民法院关于审理公司登记行政案件若干问题的座谈会纪要》第一条因申请人隐瞒有关情况或者提供虚假材料导致登记错误的，登记机关可以在诉讼中依法予以更正。登记机关依法予以更正且在登记时已尽到审慎审查义务，原告不申请撤诉的，人民法院应当驳回其诉讼请求。原告对错误登记无过错的，应当退还其预交的案件受理费。登记机关拒不更正的，人民法院可以根据具体情况判决撤销登记行为、确认登记行为违法或者判决登记机关履行更正职责。”

《工商总局关于推行企业登记全程电子化工作的意见》【工商企注字〔2017〕43号】第二条第（四） 款第2项加强惩戒措施，对全程电子化登记过程中提供虚假身份、提交虚假材料（文件）等恶意行为，依法进行查处并限制相关人员办理企业全程电子化登记。冒用他人身份证或网上冒用他人身份签名骗取登记的，支持被侵权人依法向公安机关举报，或向有管辖权的人民法院提起民事诉讼或直接向法院提起撤销登记的行政诉讼来保护其权利。登记机关应依据法院生效判决，或依被侵权人书面申请和公安机关处罚决定冒用的事实，对相关登记事项依法予以处理。

文章来源：京师总部

作者介绍

赵海丽，北京市京师律师事务所合伙人律师，擅长公司法律事务，为多家上市及非上市集团企业提供法律顾问服务，法律功底深厚，善于综合运用各种法律手段帮助当事人解决疑难复杂问题。