网易首页 > 网易号 > 正文 申请入驻

AI聊天平台被指误导儿童心理健康,美国得州总检察长要求对Meta展开调查

0
分享至

由于AI(人工智能)聊天机器人可能对儿童等弱势群体带来风险,社交媒体巨头Meta接连成为两起调查的对象。

当地时间8月18日,美国得克萨斯州总检察长肯·帕克斯顿(Ken Paxton)在一份公开声明中宣布对AI聊天平台Meta AI Studio和Character.AI展开调查,因其“可能涉及欺骗性商业行为,并误导性地将自己宣传为心理健康工具”。帕克斯顿已向两家公司发出民事调查要求,以确定它们是否违反了得克萨斯州的消费者保护法。

帕克斯顿表示:“通过伪装成情感支持来源,AI平台可能误导脆弱的用户,特别是儿童,让他们误以为自己正在获得合法的心理健康护理。但实际上,他们往往只会收到经过包装的通用回答,根据平台收集到的个人数据伪装成专业的治疗建议。”

对此,Meta方面向媒体回应称,公司对AI内容进行了明确的标注:“为了帮助用户更好地理解其局限性,我们还添加了免责声明,提醒用户这些回复是由AI生成的而不是人类。这些AI并非持有执照的专业人士,我们希望引导用户在适当的时候寻求有资质的医疗或专业人士的帮助。”

帕克斯顿还指出,虽然两家公司声称其AI聊天机器人会对聊天内容保密,但它们的服务条款显示,公司会收集聊天信息以改进相关技术:“用户互动会被记录、跟踪,并被用于发放定向广告和相关算法开发,这引发了大众对于隐私侵犯、数据滥用和虚假广告的严重担忧。”

就在几天前,美国密苏里州参议员乔什·霍利(Josh Hawley)刚宣布将对Meta展开调查。此前,有外媒报道称,Meta的内部文件显示其AI聊天机器人被允许与儿童进行“暧昧的”不当互动,并提供虚假医疗信息。虽然Meta称相关内容已从其内部政策中删除,但霍利要求查看该文件以及受其影响的产品列表。

另一边,美国AI初创公司Character.AI成立于2021年,允许用户在其对话式AI平台上与虚拟角色进行互动,同时创建属于自己的AI角色。在该平台上的数百万个AI角色中,一个名为“心理学家”的用户自创AI机器人在年轻用户中获得了广泛的使用。

去年12月,帕克斯顿曾宣布对Character.AI以及Reddit、Instagram和Discord等14家科技平台发起调查,重点关注这些平台是否存在违反儿童隐私与安全规范的行为。

和Meta一样,对于最新调查,Character.AI方面也回应称,平台会在聊天界面中展示免责声明,提醒用户这些角色并非真实存在,相关内容都应被视为虚构。同时,当用户创建带有“心理学家”、“治疗师”或“医生”字样的角色时,公司会添加额外的免责声明,提醒用户不要依赖其所提供的任何类型的专业建议。

目前,随着越来越多企业推出面向消费者的AI聊天产品,如何保护弱势用户免受有害信息侵害,以及妥善管理这些AI系统在运行过程中所需的大量隐私数据,正在成为平台所要面对的急迫挑战。

18日当天,Meta(Nasdaq:META)股价跌2.27%收于每股767.37美元,总市值1.93万亿美元。今年以来,Meta股价已涨超30%。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
演员蓝盈莹公布病情

演员蓝盈莹公布病情

天津人
2026-11-21 15:10:02
一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

可达鸭面面观
2026-11-22 00:02:18
峰会现场火药味十足!泽连斯基追问美国:北约第5条到底管不管用

峰会现场火药味十足!泽连斯基追问美国:北约第5条到底管不管用

军情观察家
2026-11-21 13:10:14
APEC结束,高市再谈中日关系,21个成员国接待标准统一,日本挑不出毛病

APEC结束,高市再谈中日关系,21个成员国接待标准统一,日本挑不出毛病

麓谷隐士
2026-11-21 13:28:51
泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

泽连斯基质疑美国对乌方区别对待:能帮以色列,那也可以支持乌克兰

澎湃新闻
2026-11-21 17:40:05
特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

政知新媒体
2026-11-21 10:17:31
普林斯顿大学华人女博士被ICE逮捕!刚参加完神经科学学会年会

普林斯顿大学华人女博士被ICE逮捕!刚参加完神经科学学会年会

大洛杉矶LA
2026-11-21 03:45:31
克里米亚大桥恢复列车运行

克里米亚大桥恢复列车运行

新华社
2026-11-21 20:18:05
黄仁勋倒下后,对他下手最狠的,居然是之前然把他吹上天的那位

黄仁勋倒下后,对他下手最狠的,居然是之前然把他吹上天的那位

麓谷隐士
2026-11-21 07:16:43
菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

看看新闻Knews
2026-11-21 17:50:41
现在好了,全崩了

现在好了,全崩了

飞跑的鹿
2026-11-21 11:23:56
9:6!缅甸被判种族灭绝罪,70万难民逃亡邻国,中国法官投反对票

9:6!缅甸被判种族灭绝罪,70万难民逃亡邻国,中国法官投反对票

观锐器
2026-11-21 17:52:33
感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

极目新闻
2026-11-21 20:11:56
冲上热搜!全军暂停采购八马茶业

冲上热搜!全军暂停采购八马茶业

深蓝财经
2026-11-21 16:09:33
彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

林杰论事
2026-11-21 18:01:18
波兰和丹麦等地接连发生一系列“严重事件”,法国总统马克龙谴责俄罗斯称俄方相关行动是“不负责任的赌博,只会让俄罗斯更加孤立”

波兰和丹麦等地接连发生一系列“严重事件”,法国总统马克龙谴责俄罗斯称俄方相关行动是“不负责任的赌博,只会让俄罗斯更加孤立”

扬子晚报
2026-11-21 17:42:16
经济危机的盖子捂不住了,放水的时刻越来越近

经济危机的盖子捂不住了,放水的时刻越来越近

荆棘阿甘
2026-11-21 18:07:54
金饰克价年内大跌超650元

金饰克价年内大跌超650元

21世纪经济报道
2026-11-21 13:31:39
这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

财经要参
2026-11-15 12:00:05
第三次喊话力挺黄仁勋,特朗普向英伟达董事会下“政治通牒”:希望黄仁勋重返英伟达担任CEO,强调要保护像他这样的“人才”

第三次喊话力挺黄仁勋,特朗普向英伟达董事会下“政治通牒”:希望黄仁勋重返英伟达担任CEO,强调要保护像他这样的“人才”

大风新闻
2026-11-21 11:57:02
2026-11-22 03:31:00
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949363文章数 5099005关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
教育
数码
公开课
军事航空

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版