网易首页 > 网易号 > 正文 申请入驻

AI新规遇上“心”障碍:拒绝一刀切,降低康复类应用被误伤下架的可能

0
分享至

本报(chinatimes.net.cn)记者李氏琼 王晓慧 北京报道

“对于普通孩子而言,AI或许是充满诱惑的虚拟玩伴;但对于心智障碍儿童而言,它可能既是需要警惕的情感陷阱,又是辅助康复、融入社会的珍贵工具。”

随着人工智能技术加速迭代并深度嵌入社会生活,心智障碍儿童与AI拟人化服务的关系正变得日益复杂。六一儿童节之际,关于如何守护孩子的讨论也集中升温。

借此契机,《华夏时报》记者邀请湖北经济学院法学院教师丁鹏,以《人工智能拟人化互动服务管理暂行办法》(下称《办法》)为切入点,探讨数字时代,对于心智障碍儿童而言,如何在法律的框架下,为他们构建一个安全的未来。

拒绝“一刀切”,呼吁相关主体提供精细化服务

《办法》第十四条明确:拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意。

“《办法》设置严格的未成年人AI使用红线,核心初衷是基于未成年人身心尚未成熟的特质,规避其混淆虚拟与现实、产生过度情感依赖和认知偏差等问题。相比之下,心智障碍儿童的认知辨别、社交判断能力更为薄弱,数字环境下的脆弱性被进一步放大,也是AI拟人化风险中最容易被波及、最需要重点保护的群体。”丁鹏这样解释。

而且,从现实观察来看,AI拟人化服务正在被越来越多地应用到康复训练、特殊教育乃至职业转型培训中。比如,康复机构会借助AI模仿父母或熟悉老师的声音,提醒心智障碍儿童按时吃药、学习洗衣做饭等。“这种基于拟人化的交互,本质上是他们跨越社交障碍、学习生活技能的桥梁。”

“鉴于心智障碍儿童的独特使用场景,我们会有一些担忧,比方说上述使用场景确实不是虚拟亲属、伴侣等亲密关系被禁止的范畴,但如果出于合规避险的考量,是否会‘一刀切’?”

丁鹏说,《办法》第二十四条、第二十五条中提到了两大主体:一个是拟人化互动服务提供者,另一个是互联网应用商店等应用程序分发平台。如果两大主体机械地执行“禁止拟人化”条款,可能会导致这些极具价值的康复应用场景被平台误伤下架。

“考虑到还有大量的心智障碍康复机构在使用AI,部分平台是否会为降低责任,在服务协议中增设免责条款,让机构承担更多监护义务,而不是优化服务模式。”丁鹏希望,平台在未成年人模式和老年人模式之外,能够关照到这些更为脆弱的使用者。

与此同时,《办法》中关于“14周岁以下需监护人同意”的规定,在实际落地中也需要更精细的考量。

“一个趋势是,未来很多拟人化的聊天服务可能需要充值,许多心智障碍儿童的生理年龄虽然超过14岁,但心智水平仍停留在幼童阶段,这也会带来新的问题。我担心一旦发生网络充值、盲目消费等问题,在家长主张行为无效、撤销交易时,可能会产生争议性案例,让基层监管、平台运营、家庭监护等面临更多的难题。”

基于这些矛盾点,丁鹏看来,关键在于现有的条款在具体落地时保留解释弹性,真正区别“恶意的情感操纵”与“善意的康复辅助”。未来的监管细则或许需要为这些特殊教育康复场景留出合规空间,鼓励企业提供经过专业认证的模式,而不是让企业在免责压力下直接切断服务,导致心智障碍者在内的儿童失去重要的辅助工具。

关注信息无障碍:赋予心智障碍儿童抽身而出的能力

“我们知道对于肢体障碍者来说,无障碍是电梯、坡道;对于视力障碍者来说,无障碍是盲道、导盲犬和读屏软件;对于听力障碍者来说,无障碍是字幕和手语翻译,但是,对于一般社会公众来说,心智障碍者需要的无障碍是什么?他们能走、能看、能听,在数字时代需要什么样的无障碍,这是一个非常重要的问题。”

丁鹏继续在讨论中谈到,关于上述平台是否应为心智障碍儿童做出软件上适配调整等问题,其实是信息无障碍的问题。“现状是,考虑到成本问题,大多数手机APP和人工智能应用,不会特别考虑为心智障碍做某种调整。”

丁鹏以《办法》第十八条“拟人化互动服务提供者应当履行人工智能生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人进行互动。”为例,谈到了心智能力上的平等观。

“我们目前提及的人工智能,是研究、开发模拟、延伸和扩展人的智能的理论、方法、技术,它可以与人类混合,可以以假乱真,但这并不意味着人类,尤其是心智障碍者的主体性,可以随意被人工智能轻易覆盖、弥补和替代。”

“AI虽然不应该是他们的好朋友,但是可以是他们的好工具。”丁鹏感慨,一方面是要将AI作为一种工具,去提升心智障碍儿童的沟通能力、康复机会和就业能力,另一方面是提供识别的能力。

“对于心智障碍儿童而言,完全的隔离是不现实的。与其将他们包裹在真空的保护罩里,不如培养他们区分真实与虚幻的能力。我们需要帮助孩子建立一种核心能力——既能利用AI作为提升沟通与认知的工具,又能随时抽身而出,能区分,能拒绝,能清醒地意识到屏幕对面是算法而非真人。”

“我们终究要看到他们心智成长的潜力。”丁鹏补充说,在守护心智障碍儿童成长的过程中,真实人际关系的陪伴与支持是对抗AI情感引诱与虚幻成瘾的首要防线。在当下环境下,社会工作者、就业辅导员、家长等密切接触心智障碍儿童的人群,更需要践行好“儿童真实意愿原则”——耐心询问他们的想法,支持他们参与决策,帮助他们理解什么是AI、什么是真实的人际联结,让心智障碍儿童在享受科技红利的同时,依然能够拥抱这个有血有肉、充满温度的真实世界。

责任编辑:周南 主编:王晓慧

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
罕见!马斯克,突发警告!

罕见!马斯克,突发警告!

数据宝
2026-11-22 17:29:51
产业原董事长被带走调查

产业原董事长被带走调查

地产微资讯
2026-11-22 20:00:47
爱惨了!露西娅AI女友走红:玩家砸钱定制太逼真

爱惨了!露西娅AI女友走红:玩家砸钱定制太逼真

游民星空
2026-11-22 11:07:20
事态彻底升级了!北约没想到,普京出手就是狠招,俄罗斯导弹打到波兰,特朗普介入,引发舆论热议!

事态彻底升级了!北约没想到,普京出手就是狠招,俄罗斯导弹打到波兰,特朗普介入,引发舆论热议!

林杰论事
2026-11-22 03:01:27
王菲躺进李嫣怀里自拍,手上鸽子蛋抢镜,婚讯猜测又来了

王菲躺进李嫣怀里自拍,手上鸽子蛋抢镜,婚讯猜测又来了

两只米老鼠
2026-11-22 16:13:39
华福证券发布有色金属研报 稀土价格上行 科达制造周涨8.16%

华福证券发布有色金属研报 稀土价格上行 科达制造周涨8.16%

观点机构
2026-11-22 21:54:26
卯兔:11.22日起三喜接连登门,第二喜最是难得,旁人求都求不到

卯兔:11.22日起三喜接连登门,第二喜最是难得,旁人求都求不到

糖逗在娱乐
2026-11-21 02:09:54
美股遭遇恐慌性抛售 多家华尔街机构认为或只是牛市调整

美股遭遇恐慌性抛售 多家华尔街机构认为或只是牛市调整

财联社
2026-11-22 08:25:02
张檬小五夫妇逛街被偶遇,定居广州住顶级豪宅,出门带两个保姆

张檬小五夫妇逛街被偶遇,定居广州住顶级豪宅,出门带两个保姆

可乐谈情感
2026-11-22 11:43:33
好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

回京历史梦
2026-11-15 06:35:06
东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

每日经济新闻
2026-11-18 10:28:14
美军中央司令部:伊朗击伤美军F-16战机说法不实

美军中央司令部:伊朗击伤美军F-16战机说法不实

每日经济新闻
2026-11-21 23:46:41
蔡澜:一个家庭,如果做饭不用心,对吃的不讲究,甚至特别舍不得吃,那这个家庭,大概率是没有什么和气、财气与朝气的!

蔡澜:一个家庭,如果做饭不用心,对吃的不讲究,甚至特别舍不得吃,那这个家庭,大概率是没有什么和气、财气与朝气的!

深度知局
2026-10-22 22:14:28
U17世界杯疯狂一夜!国足惨败却等来出线希望

U17世界杯疯狂一夜!国足惨败却等来出线希望

林子说事
2026-11-22 15:25:36
网传电诈园区的办公室标语是:不忘初心砥砺前行感恩奋进,真荒诞啊!

网传电诈园区的办公室标语是:不忘初心砥砺前行感恩奋进,真荒诞啊!

黯泉
2026-11-21 17:27:58
德媒:穆西亚拉周一再次癫痫发作,拜仁担心其病情始终难控制

德媒:穆西亚拉周一再次癫痫发作,拜仁担心其病情始终难控制

懂球帝
2026-11-22 21:09:07
日本夫妻34cm反向身高差引热议!丈夫仅1米38,妻子1米72,丈夫十几年被嘲像“半个人”

日本夫妻34cm反向身高差引热议!丈夫仅1米38,妻子1米72,丈夫十几年被嘲像“半个人”

英国那些事儿
2026-11-21 01:14:34
光刻巨头CEO亲口表态:就算切断光刻机维护服务,中国芯片厂仍能正常运转

光刻巨头CEO亲口表态:就算切断光刻机维护服务,中国芯片厂仍能正常运转

互联鱼
2026-11-22 00:05:36
普京:我们从未发动过任何战争,我们只是在努力结束它

普京:我们从未发动过任何战争,我们只是在努力结束它

福建睿平
2026-11-22 10:03:46
4-0!尤文图斯“冰火两重天”,上半场像渡劫,下半场像“过年”

4-0!尤文图斯“冰火两重天”,上半场像渡劫,下半场像“过年”

汪星人哟
2026-11-22 21:29:29
2026-11-22 22:47:00
华夏时报 incentive-icons
华夏时报
华夏时报拥有互联网新闻信息采编发布服务资质,由华夏时报社运营。
87711文章数 283260关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

本地
教育
房产
公开课
军事航空

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

教育要闻

绵阳会延迟到校时间吗?官方回复了

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版