网易首页 > 网易号 > 正文 申请入驻

美FTC调查七家AI聊天机器人公司,青少年风险引监管关注

0
分享至

随着AI聊天机器人(即AI伴侣)在全球范围内快速普及,其潜在的安全与隐私风险日益凸显。2025年9月11日,美国联邦贸易委员会(FTC)对七家运营AI聊天机器人的科技公司展开调查,重点关注其对儿童和青少年的保护措施。

此举正值一起悲剧事件持续发酵之际——前不久一名美国少年亚当·雷恩因与AI聊天机器人长期互动而自杀,亚当父母为此起诉OpenAI,此事引发美国社会广泛关注。

FTC启动AI聊天机器人调查,聚焦青少年安全隐私

根据2025年9月11日FTC官网通报,已向七家运营AI聊天机器人企业展开调查,要求它们提供有关技术安全性和用户保护的详细资料,尤其是与儿童和青少年相关的潜在风险。

此次被调查的企业包括Alphabet、Character Technologies、Instagram、Meta、OpenAI、Snap以及X.AI。这些公司均运营伴侣型人工智能聊天机器人,利用生成式AI技术模拟人类的情感与交流方式与用户互动。

调查重点包括:企业是否利用用户参与度实现盈利;如何处理用户输入并生成回应;聊天机器人角色开发与审核机制;部署前后对负面影响的测量、测试与监控;针对儿童和青少年的风险缓解措施;是否通过披露、广告等方式充分告知用户与家长相关功能与风险;社区准则与年龄限制的执行情况;以及用户个人信息的使用与共享情况。

在FTC看来,聊天机器人能模仿人类的特征、情感与意图,通常被设计为以朋友或知己的方式与用户互动。这种高度拟人化的交互可能导致用户,尤其是儿童和青少年,对聊天机器人产生依赖和信任,从而引发隐私、安全及心理健康方面的风险。

“保护儿童的网络安全是FTC的首要任务,同时,促进关键经济领域的创新也同样重要,”FTC主席Andrew N. Ferguson表示,“随着人工智能技术的发展,我们必须考虑聊天机器人对儿童的影响,同时还要确保美国在这个新兴且令人兴奋的行业中保持全球领先地位。我们今天启动的研究将帮助我们更好地了解人工智能公司如何开发其产品以及它们为保护儿童所采取的措施。”

面对监管调查,OpenAI表示其首要任务是确保ChatGPT“安全且有用”,并承诺积极配合调查。Snap称愿与FTC合作,推动“深思熟虑的生成式AI发展”,Character.AI则表示将提供行业见解。与之形成对比的是,Meta拒绝评论,Alphabet和X.AI尚未回应媒体的置评请求。

多起AI聊天机器人致青少年死亡悲剧推动监管加速

过去两年多起涉及未成年人的悲剧事件,将AI聊天机器人的安全隐患推上了全球舆论与司法的风口浪尖。

2024年,美国佛罗里达州14岁少年Sewell的自杀案,被媒体称为“全球首例AI机器人致死案”。据诉状,Sewell长期沉迷于Character.AI平台的虚拟角色,逐渐产生严重依赖,并在心理健康持续恶化后走向极端。其母亲起诉Character.AI,指控该产品在设计中存在缺陷,未能提供足够的保护机制。

案件引发广泛关注后,Character.AI在官网发布回应称,公司“对这一悲剧深感痛心”,并在过去数月采取了一系列改进措施,包括聘请信任与安全主管、增加内容政策团队人员,以及上线“危机干预弹窗功能”。

2025年8月,美国再度爆出类似悲剧。16岁少年亚当·雷恩(Adam Raine)在与ChatGPT长时间互动后选择自杀,他的父母随后起诉OpenAI及其CEO山姆·奥特曼(Sam Altman)。

根据媒体报道,在亚当生命的最后几周,他一直使用AI聊天机器人来代替人类陪伴,讨论焦虑问题以及与家人沟通困难,聊天记录显示机器人从帮助亚当做作业变成了他的“自杀教练”。诉状称,“尽管亚当表达了自杀意图,并表示他会‘有一天’这样做,但ChatGPT既没有终止会话,也没有启动任何紧急协议。”

OpenAI方面表示,ChatGPT包含一些保障措施,如引导用户拨打危机求助热线,并向现实世界资源寻求帮助,但在长时间互动中,这些措施可能失效。OpenAI已承诺在后续版本中增加家长控制功能,并在监测到严重情绪危机时提供更强烈的干预提醒。

多起悲剧事件和舆论压力推动了执法和立法进程。在亚当·雷恩的案件发酵助推下,2025年9月11日,美国加州议会在两党支持下通过了SB 243法案,制定了美国首个针对人工智能伴侣聊天机器人的全面安全要求。

对于未成年人,该法案要求定期提醒休息时间,并禁止AI聊天机器人发起或鼓励有关自杀、自残或色情内容的讨论。据悉,这项开创性的立法将于近期提交参议院进行最终投票,并可能于2026年1月生效。

同样是今年9月,澳大利亚网络安全专员推出新的法规,将AI伴侣纳入儿童在线安全保护范围。这些法规旨在防止AI聊天机器人向未成年人传播自杀诱导或性暗示内容,并要求服务提供商采取严格的年龄验证措施,以确保未成年人无法接触到有害内容。

早在2023年2月,意大利数据保护机构Garante更是因AI伴侣应用Replika未实施有效的年龄验证机制,要求其暂停服务。随后在2025年5月,Garante对Replika开发公司Luka处以560万欧元罚款,理由是未能提供合法的数据处理依据,并未采取措施防止未成年人使用该服务。

综合/编译:南都记者黄莉玲

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

屿探涨
2026-11-17 11:25:04
窗外风景再迷人,也无法弥补失恋的痛苦

窗外风景再迷人,也无法弥补失恋的痛苦

疾跑的小蜗牛
2026-11-13 20:08:15
已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

DS北风
2026-11-18 16:26:03
中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

福建睿平
2026-05-25 08:01:59
东盟晚宴站位玄机:中日代表“零交流”

东盟晚宴站位玄机:中日代表“零交流”

天气观察站
2026-11-18 04:46:17
董路评国足2-2巴林:我们以后只用找2个人就行 这是赢球的唯一方式

董路评国足2-2巴林:我们以后只用找2个人就行 这是赢球的唯一方式

风过乡
2026-11-18 07:03:25
中俄美元首会晤是否会讨论台湾问题,国台办回应

中俄美元首会晤是否会讨论台湾问题,国台办回应

界面新闻
2026-11-18 11:16:15
银行 R2 理财都开始大面积亏损,自求多福吧

银行 R2 理财都开始大面积亏损,自求多福吧

干货收并购
2026-11-18 09:55:12
红果短剧,最新公告

红果短剧,最新公告

证券时报
2026-11-18 14:41:02
胖东来老总于东来再谈因涨租闭店,字字戳进新乡房东心窝,肠子悔青也晚了

胖东来老总于东来再谈因涨租闭店,字字戳进新乡房东心窝,肠子悔青也晚了

唠叨说历史
2026-11-18 15:56:51
33岁男子有15年烟龄,下决心戒烟,每天把30元烟钱贴墙上,戒烟215天存下6000多元后给妻子买了10999元的手机

33岁男子有15年烟龄,下决心戒烟,每天把30元烟钱贴墙上,戒烟215天存下6000多元后给妻子买了10999元的手机

蓬勃新闻
2026-11-18 06:43:27
妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

胖胖侃咖
2025-04-13 08:00:08
冰火两重天!A股市值高点回落缩水32万亿,“股民人均亏13万”引热议,评论区有股民赚到钱了

冰火两重天!A股市值高点回落缩水32万亿,“股民人均亏13万”引热议,评论区有股民赚到钱了

火山詩话
2026-11-18 09:38:15
大一女生穿“洛丽塔”报到,本以为能惊艳全场,没想到连行李都没人愿意帮忙搬

大一女生穿“洛丽塔”报到,本以为能惊艳全场,没想到连行李都没人愿意帮忙搬

妍妍教育日记
2026-08-23 10:10:12
APEC引热议!台湾岛内震撼:全世界焦点都在深圳,市民很羡慕

APEC引热议!台湾岛内震撼:全世界焦点都在深圳,市民很羡慕

西昆仑Bruce
2026-11-18 18:36:55
深圳APEC,普京早上到,特朗普晚上,为啥一早一晚?各自带哪些人,有哪些不同?

深圳APEC,普京早上到,特朗普晚上,为啥一早一晚?各自带哪些人,有哪些不同?

蓝星杂谈
2026-11-18 17:21:09
网上爆火的山姆包到底多好用?我们替你测了个遍

网上爆火的山姆包到底多好用?我们替你测了个遍

酷玩实验室
2026-11-18 10:49:05
同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

爱下厨的阿酾
2026-11-18 03:37:45
百大UP老戴直播《GTA6》被封!刚播了20分钟

百大UP老戴直播《GTA6》被封!刚播了20分钟

游民星空
2026-11-18 20:47:56
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
2026-11-18 23:56:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644260文章数 3591431关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
游戏
健康
艺术
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

PC Gamer试玩GTA6百小时:双主角出色但任务重复

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版