网易首页 > 网易号 > 正文 申请入驻

AI智能体的安全底线与合规边界何在?对话陶乾

0
分享至

今年政府工作报告提出,促进新一代智能终端和智能体加快推广。随着人工智能技术不断向执行端延伸,AI手机助手正从“动口”走向“动手”,一句指令,就可以帮用户完成点餐、叫车、订票甚至支付。

“AI替人下单”背后有两条主要技术路径:GUI路线模拟用户操作界面完成任务,API路线通过调用接口直接执行服务。前者落地快,后者效率高,但都涉及授权和合规问题。

当智能体替用户穿梭于不同App之间,技术便利也迅速触碰到新的法律边界,相关讨论不断升温。AI智能体的运行是否以及如何获得用户授权?如果AI误下单、误支付,损失由谁承担?在跨应用过程中接触订单、账户、交易记录等信息,又是否可能触碰平台的数据规则边界?

为此,南都专访中国政法大学知识产权创新与竞争研究中心主任陶乾教授。在她看来,AI手机助手调用第三方应用首先应建立在用户充分知情和明确授权的基础上。AI作为工具介入交易,并不会改变用户作为法律行为主体的基本结构,相关责任仍需依过错归属和具体场景进行认定。

她同时强调,对于新兴商业模式,监管层总体上秉持包容审慎的态度,为创新预留空间,引导产业在发展中做好合规治理。

AI只是技术延伸,不能替代用户成为交易主体

南都:过去用户通常是在各个APP内完成操作,但现在一些AI手机助手已经可以跨APP执行任务,例如帮用户订餐、叫车或完成线上交易。这种技术介入是否会改变传统交易中的法律关系结构?

陶乾:AI手机助手属于工具性技术形态,是一种用户意志在网络空间、数字环境中的技术实现机制。当AI根据用户指令完成这些操作,法律关系并未因工具的介入而发生根本变化。

具体而言,AI本身不具备独立作出意思表示、享有权利或承担义务的能力,也不具有独立的法律主体资格,AI 所执行的每一项操作,都基于开发者的代码设计以及用户的明确指令,其行为目的、内容与边界均由开发者和用户预先设定与控制。因此,即便 AI 手机助手介入用户、平台与服务提供者之间的交互链条,各主体之间的法律关系并未因这一工具的使用而发生根本变化,用户依然是法律意义上的行为主体与权利义务承担者,平台与服务提供者的交易、服务相对方仍然是用户本人,AI 仅作为技术性辅助工具提升各主体的行为效率。

用户授权是前提,需以清晰、易懂、显著的方式告知用户

南都:AI手机助手在调用第三方应用时,应该如何建立用户授权机制?

陶乾:AI手机助手对第三方应用的调用,需经用户的知情同意,经用户通过系统设置或者点击确认来明确授权。依据我国的《个人信息保护法》和《网络安全法》所确立的“告知—同意”规则,AI 助手在调用第三方应用、读取界面信息、模拟操作或执行交易指令前,需以清晰、易懂、显著的方式,向用户完整告知权限调用的目的、范围、方式与潜在风险,由用户通过系统设置主动开启、弹窗点击确认等明示形式作出授权。

该授权应当满足自愿、特定、必要、可撤销的基本要求,仅针对具体任务场景开放最小必要权限,禁止一揽子授权、默认授权或强制授权。此外,涉及支付、金融、隐私信息等敏感操作时,还应设置单独同意与即时中断机制,确保用户对AI行为权限的全程控制。

责任认定遵循过错原则,数据调用不得突破规则边界

南都:如果AI手机助手在执行任务时出现错误,例如误下订单、误操作支付,甚至造成财产损失。从法律角度看,用户、AI服务提供者与第三方平台之间应如何进行责任划分?

陶乾:需进行个案分析,在过错责任原则下,根据过错归属、因果关系进行责任承担。AI 手机助手不具有独立的法律主体资格,其行为本质是用户意志的技术延伸,因此由其行为所造成的民事责任最终归属于用户、AI服务提供者、第三方应用平台等法定民事主体,而非AI本身。

具体而言,若损失源于用户自身未尽到合理注意义务,如指令模糊不清、忽视风险提示等,应自行承担相应损失;若用户故意利用AI工具实施违规、违法操作损害他人的合法权益,则由该用户承担侵权责任。若损失是由AI助手的开发者或运营者未尽到安全保障与服务质量保障义务所造成,其应对用户损失承担赔偿责任。若第三方 App因存在系统漏洞、未对异常操作进行合理风控等问题而造成损失,第三方APP的服务提供者也应在其过错范围内承担相应责任。最后,民事责任的划分和归属必须基于行为与损害结果之间存在法律上的直接因果关系。实践中,若多方主体均存在过错,应根据各自过错程度与原因力大小,按比例分担责任;若某一方无过错,则无需承担责任。

制度建设需回应应用边界,划定安全底线

南都:在人工智能快速发展的背景下,外界既期待AI带来的效率提升,也对隐私、安全等问题有所担忧。您认为市场和监管需要秉持怎样的态度,把握鼓励创新与防范风险的尺度?

陶乾:在当前人工智能技术发展面临激烈国际竞争的背景下,监管层面需总体上秉持包容审慎的态度,为创新预留空间,引导产业在发展中做好合规治理。一方面,充分尊重AI技术的快速迭代特性和产业发展规律,对尚处于探索阶段、未产生实质性风险的AI应用,采取较为柔性的监管方式,避免过度监管扼杀创新活力;另一方面,明确划定AI技术发展中不可触碰的安全底线,依托《个人信息保护法》《网络安全法》《反不正当竞争法》等法律法规进行监管和规制。

南都:如果未来围绕AI手机智能体出台专门政策或行业规范,您认为当前最迫切需要明确的法律问题是什么?

陶乾:需要解决的问题包括但不限于移动应用之间的互操作机制、分级分类的动态授权机制、人机协同下的责任认定机制、数据获取与使用的合规机制等等。例如,关于构建移动应用之间的互操作机制,应当明确AI智能体跨应用调用APP的行为边界,禁止其实施超出用户授权、干扰应用正常运行、破坏平台生态的调用行为。

再如,关于建立分级分类的动态授权机制,一方面,根据AI智能体的行为操作类型,如普通查询、订单操作、支付交易,以及涉及数据的敏感程度,如普通信息、隐私信息、商业数据,划分不同的授权等级,明确不同等级授权的适用场景与权限范围,要求高风险操作必须获得用户单独且明确的授权。另一方面,建立动态授权机制,允许用户根据实际需求随时变更和撤销授权内容,AI智能体需实时回应用户的授权调整请求,停止超出授权范围的行为操作,同时需记录用户授权过程与自身操作痕迹,确保授权可追溯、可核查。

采写:南都N视频记者 黄莉玲

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
薇娅找了个好老公,东南亚的生意做大了,一年入账 34 亿

薇娅找了个好老公,东南亚的生意做大了,一年入账 34 亿

起点财经
2026-11-17 08:46:25
琥珀王座!波兰总统偷摸给特朗普送厚礼引发争议

琥珀王座!波兰总统偷摸给特朗普送厚礼引发争议

俄语大世界
2026-11-19 08:04:25
崩溃!退役吧,被主教练点名,真打不了NBA……

崩溃!退役吧,被主教练点名,真打不了NBA……

体育新角度
2026-11-18 14:49:51
妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

胖胖侃咖
2025-04-13 08:00:08
又一国宣布:加息!金价,重挫!

又一国宣布:加息!金价,重挫!

证券时报
2026-11-18 17:28:04
宋喆出狱3年县城搬菜日结50块,前妻仓库2000平年营业额1200万,网友吵翻:谁更清醒

宋喆出狱3年县城搬菜日结50块,前妻仓库2000平年营业额1200万,网友吵翻:谁更清醒

迪迪的娱乐故事
2026-11-07 08:36:34
截胡iPhone 20 Pro!三星无边框旗舰率先登场:正面近乎全是屏

截胡iPhone 20 Pro!三星无边框旗舰率先登场:正面近乎全是屏

快科技
2026-11-18 07:23:03
西班牙U17主帅:中国队很危险,他们在亚洲取得了很好的成绩

西班牙U17主帅:中国队很危险,他们在亚洲取得了很好的成绩

懂球帝
2026-11-18 13:23:42
同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

爱下厨的阿酾
2026-11-18 03:37:45
大风追踪|11岁男孩患白血病去世,重医儿童医院被判赔54万余元,医院不服终审判决申请再审遭驳回

大风追踪|11岁男孩患白血病去世,重医儿童医院被判赔54万余元,医院不服终审判决申请再审遭驳回

大风新闻
2026-11-18 20:01:05
俄总统特别代表称赞深圳:巨大、美丽且非常现代化,既是“未来之城”也是“自然之城”

俄总统特别代表称赞深圳:巨大、美丽且非常现代化,既是“未来之城”也是“自然之城”

环球网资讯
2026-11-18 11:06:11
没有国家队后勤托底,方博自费参赛拿下WTT冠军!在他直播间,我默默下了一单袜子,微薄支持!

没有国家队后勤托底,方博自费参赛拿下WTT冠军!在他直播间,我默默下了一单袜子,微薄支持!

开成运动会
2026-11-18 23:51:12
牡丹花下死?汪峰将森林北踢出局,这次终于彻底印证葛荟婕的评价

牡丹花下死?汪峰将森林北踢出局,这次终于彻底印证葛荟婕的评价

历史的烟火
2026-08-14 15:48:04
已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

DS北风
2026-11-18 16:26:03
文班亚马谈哈珀受伤:这种感觉太糟糕了 我只希望他没事

文班亚马谈哈珀受伤:这种感觉太糟糕了 我只希望他没事

北青网-北京青年报
2026-11-19 08:15:02
“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

蝴蝶花雨话教育
2026-11-17 00:05:18
黄金大跌!高盛却做出一个大胆的未来预测

黄金大跌!高盛却做出一个大胆的未来预测

上观新闻
2026-11-18 15:32:31
乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

唠叨说历史
2026-11-18 15:06:45
广西鼓励探索每月一周2.5天弹性休假,中小学春秋各安排2至4天“春秋假”

广西鼓励探索每月一周2.5天弹性休假,中小学春秋各安排2至4天“春秋假”

上观新闻
2026-11-18 18:09:30
75岁老太旅游被骗买了一件佛陀木雕,4年后,她得了6套海景房

75岁老太旅游被骗买了一件佛陀木雕,4年后,她得了6套海景房

磊子讲史
2025-07-07 12:41:11
2026-11-19 08:52:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644299文章数 3591432关注度
往期回顾 全部

科技要闻

刘炽平回应AI烧钱:不指望几周内就看到回报

头条要闻

牛弹琴:黄仁勋事件越来越荒诞了 马斯克都笑哭了

头条要闻

牛弹琴:黄仁勋事件越来越荒诞了 马斯克都笑哭了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

北京环球影城,亏损难题待解

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
教育
亲子
数码
时尚

艺术要闻

95后女孩用247天拍遍56个民族服饰,东方美学美得太惊艳!

教育要闻

招生细则里这一栏变了,孩子对口学校可能就不同:家长核对清单

亲子要闻

外面太冷了,今天又是在跳舞的一天

数码要闻

AMD发布Linux 26.17显卡驱动

Kendall都开始盛装了,谁还在追求松弛感?

无障碍浏览 进入关怀版