当AI开始替你决策，犯错了谁担责？暨南大学仲春：治理要从管内容转向管行为

本文来源：时代周报 作者：谢斯临 赵鹏

当AI助手开始自动浏览信息、替用户点击发送、甚至跨应用执行复杂操作时，你有没有想过，屏幕上这一连串流畅的动作背后，操作者到底是你，还是算法？

类似场景已经成为现实。2026年4月，广州互联网法院审理一起涉AI智能体不正当竞争纠纷案，并列为示范庭审。被告某科技有限公司开发并开源了一款AI对话机器人软件，该软件通过调用操作系统底层的“无障碍服务”权限，模拟真人操作，绕过了原告平台的技术管理措施。法院裁定其立即停止提供软件下载、调用底层权限以规避平台风控，并删除相关规避教程。该裁定明确，第三方应用需同时获得平台授权和用户自主授权，通过分层权限管控构建安全防线。

未来这样的案例将越来越多。智能体正从被动对话框进化为能拆解任务、调用工具的数字代理人，重塑产业也带来权限失控、数据泄露、生态封闭、责任真空等风险。如何构建前置化治理体系，并理清用户、模型厂商、硬件厂商、互联网平台等多个主体之间的权责问题，已然成为AI治理核心议题。

暨南大学法学院/知识产权学院副研究员仲春在接受时代周报记者采访时表示，现阶段，AI智能体并不具备法律意义上的民事行为能力，也不宜被拟制为独立民事主体。仲春长期研究数字经济、平台竞争、数据治理及人工智能法律等前沿问题。

“民事行为能力不仅意味着能执行任务，更意味着主体能够理解行为的法律意义，形成可归责的意思表示，并以自己的财产承担责任。”仲春说。

从这个角度来看，即便AI智能体表现出较强的自主规划、工具调用和环境适应能力，本质上仍是由自然人或者组织开发、部署和使用的技术系统。它没有独立意志、责任财产和道德判断能力，不能仅因技术上的“自主性”而获得法律上的主体性。

暨南大学法学院/知识产权学院副研究员仲春，图片来源：受访者提供

正因此，仲春认为，AI智能体的自主操作，不是一种单一的法律行为，而是多个行为组合，在法律层面，可能同时涉及用户授权、个人信息处理、数据访问、平台服务协议、网络安全和市场竞争秩序等具体问题。

这还只是单个智能体的情况。当技术演进至多智能体协同阶段，局面将更为复杂。现行法律体系大多围绕单一主体和相对清晰的因果链条设计，但多智能体系统中，每一个环节都可能存在瑕疵，却没有哪一个主体能掌握全貌。责任归属陷入“人人有责、人人难追”的困局，监管难度骤升。

“未来AI治理最重要的转变，是从管理生成内容进一步走向管理机器行为。”仲春指出，智能体不仅会生成信息，更能读取数据、调用工具、作出决策并直接影响现实世界。这意味着，治理的锚点必须从内容真实性的单一维度，扩展至权限边界、操作过程、行为后果与责任归属的全链条。

谁为AI错误买单？

AI不会为错误“买单”，那应该是谁？

这个问题的复杂程度远超想象。当指令模糊、模型幻觉或算法缺陷导致财产损失、信息泄露乃至人身伤害时，追责链条上站着用户、大模型厂商、硬件厂商和互联网平台，每个主体看似都有份，又好似都无辜。

为理清这一问题，仲春提出了一个以“具体致害行为为起点”的责任框架，根据各主体的控制能力、注意义务、风险收益和实际过错分配责任。

比如，用户故意或者明显不当发出指令，要求智能体绕过权限、侵入他人账户或者生成诈骗内容，用户应当对由此造成的损害承担责任。但普通用户原则上不应为难以识别的模型缺陷、系统漏洞和后台错误承担专业风险。而大模型厂商应对模型能力边界、已知重大缺陷、安全对齐、工具调用限制和风险提示承担相应责任。

智能体应用或服务提供者离具体场景最近，决定智能体能够调用哪些工具、读取哪些数据、是否可以支付以及何时需要人工确认，因此往往承担更直接的产品设计和运营责任。“尤其在医疗、金融、支付、车辆控制等高风险场景，不能把高风险决策直接交给未经确认的通用模型。”仲春说。

与之相比，硬件厂商只有在损害与终端权限设计、传感器缺陷或系统安全漏洞存在因果关系时才应承担责任；而互联网平台则应对其控制的账户体系、接口安全和异常操作承担合理注意义务。

“多个主体分别存在过错的，应根据共同侵权、分别侵权、产品责任或者合同责任等具体制度处理，不能仅因其参与了技术服务链条，就笼统要求其承担补充责任。”仲春强调。

数据应该开放到什么程度？

责任归属之外，更棘手的是另一层矛盾：当智能体跨App调取信息、模拟操作、跨平台获取数据的行为，触碰个人信息保护与平台竞争规则。同时，用户既依赖智能体提升效率，又对“一键全盘授权”感到不安；监管既想扶持AI创新，又要保护平台长期积累的数据集合和商业模式。

用户、平台和监管三方持续博弈、利益难以平衡。在仲春看来，三方冲突的底层原因是智能体的引入正在重新分配数字生态中的入口权、数据控制权和交易决定权。

过去，用户需逐个打开App，由App背后的平台掌握界面、流量、广告和交易入口。智能体出现后，用户只需向一个统一入口发出指令，由智能体代替用户比较价格、调用服务甚至完成交易。这削弱了平台对用户注意力和交易路径的控制，却增强了智能体厂商对用户需求、跨场景数据和交易分发的控制。

“这不只是隐私与创新之间的矛盾，更是新旧平台之间围绕数字入口的商业利益竞争。”仲春指出。

仲春还认为，用户授权制度长期以单一App为中心，而智能体具有持续运行、跨平台调用和动态组合任务的特点。传统“一次告知、一次同意”难以覆盖这种连续性活动。平台也容易将保护安全、知识产权、商业秘密与维护自身市场壁垒混合起来。

“因此，真正需要注意的问题不是抽象的数据开放还是数据封闭，而是开放到什么程度、通过什么接口、由谁承担安全成本，以及如何防止新的智能体入口形成新的垄断。”仲春说。

针对这一问题，仲春建议在监管层面设立“一般规则+重点场景”的双层架构：一般规则解决授权、留痕、责任举证等基础问题；金融、医疗、自动驾驶等高风险场景，则设置更严格的准入和测试义务。

而在企业层面，应把安全写入产品架构，实行最小权限、任务级授权、敏感操作二次确认等机制；用户层面，赋予其清晰的知情权和控权，让用户随时查看、暂停、撤销授权，而非用数万字的隐私政策敷衍。

“智能体刚刚开始发展，产业发展、问题的暴露以及立法者理解新产品和观察产品新问题需要时间，不必立即制定一部包罗万象的智能体法。”仲春说。

深度伪造难题如何监管？

如果说责任归属和数据博弈是AI治理的内部矛盾，那么深度伪造带来的，则是对社会信任根基的直接冲击。

这不是危言耸听。公安部刑事侦查局局长姜国利在7月24日的新闻发布会上直言，利用AI技术伪造身份侵入政企系统、伪装熟人或权威人士实施诈骗、生成网络谣言扰乱公共秩序，已成为当下利用人工智能实施新型犯罪的三大主要形态。

在仲春看来，深度伪造不光有着更强的身份侵入性，还有着更强的即时欺骗性和不可逆性。文本通常还会引发读者思考，而逼真的视频通话和语音往往要求受害人在几分钟内作出决定，核验窗口极短；即便虚假影像随后被澄清，也可能持续复制、剪辑和传播，给个人名誉、企业信用和公共秩序造成长期影响。

更棘手的是，深度伪造还会带来真假双重危机。不仅虚假内容会被当成真实内容，真实内容的责任人也可能以“这是AI生成的”为由否认真实性。

针对这一挑战，监管已构建起初步的制度防线。2025年9月1日起施行的《人工智能生成合成内容标识办法》建立了显式标识与隐式标识并行的基本制度。显式标识让用户能直观感知内容来源，隐式标识则嵌入文件元数据用于事后追溯。

仲春认为，监管下一步的重点是提高标识在转码、截图、剪辑和跨平台传播后的稳定性与可识别性。同时建立跨平台、跨部门的重大虚假内容预警和处置机制，特别关注金融诈骗、公共事件、未成年人等高风险场景。

此外，仲春指出，内容传播平台在其能够控制的传播环节负有相应的治理责任和合理注意义务，应当识别显式、隐式标识及内容来源凭证，对疑似深度伪造内容进行风险提示，并为被冒用身份者提供快速申诉和紧急止损渠道；而源头环节则由模型厂商把守，不光要核验授权、限制批量生成高风险内容、嵌入不可轻易去除的隐式标识，还应保留必要的生成日志。

建立通用合规底座

在责任划定、隐私安全，以及深度伪造等一系列与AI发展相伴相生的治理问题背后，仲春总结认为，应该建立“身份可信、授权可控、操作可见、风险可停、责任可查”的通用合规底座。

不仅要对身份与权限进行分层处理，不同权限对应不同强度的验证和确认；同时，用户授权也应与具体任务绑定，任务结束后原则上自动失效；针对高风险的操作，应设置二次确认、金额限额、冷静期或者人工复核。同时，仲春指出，合规机制还应坚持数据最小化与端侧有限原则；保留全流程日志，以方便进行审计；并进行安全测试和持续的评估。

而这一切，不能只靠行业内部的倡议或自律公约。在仲春看来，国家需要继续发挥主导作用，通过强制性标准、认证制度、监管规则和典型案例，形成可执行要求。

“单个企业追求市场份额时，未必有充分动力承担深度测试、内容溯源和弱势群体保护成本；一旦风险通过平台和智能体网络扩散，损害又可能由全社会承担。”仲春说。AI治理因此需要国家划定基本权利、安全和公平竞争底线，协调跨行业、跨平台标准，并为中小企业提供稳定预期。

此外，AI的治理也绝不是某一个国家的事情，跨越国境的协同治理越来越受到关注。作为全球首个独立的人工智能政府间国际组织，世界人工智能合作组织（WAICO）于2026年7月16日由29个国家共同签署协定并创始成立。

在仲春看来，WAICO的成立，为治理规则、技术标准和能力建设的国际协调提供了新的制度平台。但同时，一个国际组织能否真正发挥作用最终仍取决于能否形成具体项目、标准互认机制和持续性的成员国合作。

除去应当以风险分级为共同语言、推动基础概念和评测方法国际互认，以及建立“一次评测、多地适用”的合规机制，减少中国企业出海时面对重复测试、重复认证和标准冲突的成本之外，仲春认为，还应关注发展中国家的能力差距。全球AI规则不能变成少数发达国家利用算力、技术和认证优势设置的新壁垒。

“我国提出的《全球人工智能治理倡议》强调以人为本、智能向善、发展与安全并重，以及各国平等发展和利用人工智能的权利，这可以成为我国参与国际规则供给的重要基础。真正有国际竞争力的规则，应当同时具备安全性、可操作性、兼容性和包容性。”仲春说。