网易首页 > 网易号 > 正文 申请入驻

AI聊天平台被指误导儿童心理健康,美国得州总检察长要求对Meta展开调查

0
分享至

由于AI(人工智能)聊天机器人可能对儿童等弱势群体带来风险,社交媒体巨头Meta接连成为两起调查的对象。

当地时间8月18日,美国得克萨斯州总检察长肯·帕克斯顿(Ken Paxton)在一份公开声明中宣布对AI聊天平台Meta AI Studio和Character.AI展开调查,因其“可能涉及欺骗性商业行为,并误导性地将自己宣传为心理健康工具”。帕克斯顿已向两家公司发出民事调查要求,以确定它们是否违反了得克萨斯州的消费者保护法。

帕克斯顿表示:“通过伪装成情感支持来源,AI平台可能误导脆弱的用户,特别是儿童,让他们误以为自己正在获得合法的心理健康护理。但实际上,他们往往只会收到经过包装的通用回答,根据平台收集到的个人数据伪装成专业的治疗建议。”

对此,Meta方面向媒体回应称,公司对AI内容进行了明确的标注:“为了帮助用户更好地理解其局限性,我们还添加了免责声明,提醒用户这些回复是由AI生成的而不是人类。这些AI并非持有执照的专业人士,我们希望引导用户在适当的时候寻求有资质的医疗或专业人士的帮助。”

帕克斯顿还指出,虽然两家公司声称其AI聊天机器人会对聊天内容保密,但它们的服务条款显示,公司会收集聊天信息以改进相关技术:“用户互动会被记录、跟踪,并被用于发放定向广告和相关算法开发,这引发了大众对于隐私侵犯、数据滥用和虚假广告的严重担忧。”

就在几天前,美国密苏里州参议员乔什·霍利(Josh Hawley)刚宣布将对Meta展开调查。此前,有外媒报道称,Meta的内部文件显示其AI聊天机器人被允许与儿童进行“暧昧的”不当互动,并提供虚假医疗信息。虽然Meta称相关内容已从其内部政策中删除,但霍利要求查看该文件以及受其影响的产品列表。

另一边,美国AI初创公司Character.AI成立于2021年,允许用户在其对话式AI平台上与虚拟角色进行互动,同时创建属于自己的AI角色。在该平台上的数百万个AI角色中,一个名为“心理学家”的用户自创AI机器人在年轻用户中获得了广泛的使用。

去年12月,帕克斯顿曾宣布对Character.AI以及Reddit、Instagram和Discord等14家科技平台发起调查,重点关注这些平台是否存在违反儿童隐私与安全规范的行为。

和Meta一样,对于最新调查,Character.AI方面也回应称,平台会在聊天界面中展示免责声明,提醒用户这些角色并非真实存在,相关内容都应被视为虚构。同时,当用户创建带有“心理学家”、“治疗师”或“医生”字样的角色时,公司会添加额外的免责声明,提醒用户不要依赖其所提供的任何类型的专业建议。

目前,随着越来越多企业推出面向消费者的AI聊天产品,如何保护弱势用户免受有害信息侵害,以及妥善管理这些AI系统在运行过程中所需的大量隐私数据,正在成为平台所要面对的急迫挑战。

18日当天,Meta(Nasdaq:META)股价跌2.27%收于每股767.37美元,总市值1.93万亿美元。今年以来,Meta股价已涨超30%。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
震惊!武亮回母校演讲提出“吃屎的劲头”去奋斗,台下学生反问:要是拼到41岁人没了,一点福都没享到,这份奋斗还有啥意义?

震惊!武亮回母校演讲提出“吃屎的劲头”去奋斗,台下学生反问:要是拼到41岁人没了,一点福都没享到,这份奋斗还有啥意义?

火山詩话
2026-11-22 14:36:55
亚马逊执行董事长贝索斯:如果不让黄仁勋回英伟达,不要聘用外人

亚马逊执行董事长贝索斯:如果不让黄仁勋回英伟达,不要聘用外人

新浪财经
2026-11-22 11:35:43
炸锅!俄军缴获乌军无人机!拆开一看,根本不是美国星链终端!

炸锅!俄军缴获乌军无人机!拆开一看,根本不是美国星链终端!

铁锤侃侃而谈
2026-11-22 10:56:14
局势彻底变天了!在中国待了27个小时,特朗普临走前留下一句话,让台当局心凉透了,引发舆论热议!

局势彻底变天了!在中国待了27个小时,特朗普临走前留下一句话,让台当局心凉透了,引发舆论热议!

林杰论事
2026-11-22 03:07:56
老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

起点财经
2026-11-22 13:10:41
为让特朗普和普京吃鱼不卡刺,15个总厨“闭关”练了整整一个月!

为让特朗普和普京吃鱼不卡刺,15个总厨“闭关”练了整整一个月!

大稻网络科技
2026-11-21 15:51:21
慌啥子嘛,越来越不对劲了

慌啥子嘛,越来越不对劲了

大张的自留地
2026-11-21 13:02:04
总台暗访广西“土菜馆”:候鸟豹猫沦为盘中餐,老板称“若检查有人提前通知”,野保中心竟不知餐馆卖野味

总台暗访广西“土菜馆”:候鸟豹猫沦为盘中餐,老板称“若检查有人提前通知”,野保中心竟不知餐馆卖野味

扬子晚报
2026-11-22 20:21:58
特朗普连发30多张APEC会议相关照片,还晒出与普京的合影,称“My Friend”

特朗普连发30多张APEC会议相关照片,还晒出与普京的合影,称“My Friend”

南方都市报
2026-11-22 12:22:47
钱再多有什么用?深夜被送进急救的于和伟,给所有男明星提了个醒

钱再多有什么用?深夜被送进急救的于和伟,给所有男明星提了个醒

胡一舸南游y
2026-11-21 22:20:04
48岁兰帕德又变神灯!3-2绝杀:开局4连败0进球后,7轮4胜排第13

48岁兰帕德又变神灯!3-2绝杀:开局4连败0进球后,7轮4胜排第13

风过乡
2026-11-22 08:44:44
卖断货的“APEC晚宴同款荔枝冰酒”明天重启预售,老板:178元1瓶不会涨价,每人限购1瓶,预计15至30天内发货

卖断货的“APEC晚宴同款荔枝冰酒”明天重启预售,老板:178元1瓶不会涨价,每人限购1瓶,预计15至30天内发货

极目新闻
2026-11-22 15:13:10
巴萨天崩开局!7分钟连丢2球,费尔明乌龙助攻,布坎南轰世界波

巴萨天崩开局!7分钟连丢2球,费尔明乌龙助攻,布坎南轰世界波

奥拜尔
2026-11-22 21:16:51
荷兰法院放话了,7天之内不撤回中国的官司,每天就罚500万欧元…

荷兰法院放话了,7天之内不撤回中国的官司,每天就罚500万欧元…

今日搞笑分享
2026-11-22 00:45:23
新一届江西省委领导班子亮相

新一届江西省委领导班子亮相

政知新媒体
2026-11-22 18:29:04
断供的太多,银行也很头疼。

断供的太多,银行也很头疼。

老陆不老
2026-11-21 20:05:48
33岁高校女教师在公园拉二胡,被围得里三层外三层,有人从外地赶来捧场,现场大合唱;曾被质疑“有失身份”,本人回应:舞台不分大小

33岁高校女教师在公园拉二胡,被围得里三层外三层,有人从外地赶来捧场,现场大合唱;曾被质疑“有失身份”,本人回应:舞台不分大小

大风新闻
2026-11-21 22:05:03
北京朝阳分局发布警情通报

北京朝阳分局发布警情通报

政知新媒体
2026-11-22 20:43:41
亩产达到7.5吨,价钱一路下滑,6千多万斤卖不动,吃货:买不到

亩产达到7.5吨,价钱一路下滑,6千多万斤卖不动,吃货:买不到

邹小蘑菇
2026-11-22 10:24:45
万万没想到!加拿大总理说了句震惊世界的话,参加深圳APEC后说:以深圳为师,引发舆论热议!

万万没想到!加拿大总理说了句震惊世界的话,参加深圳APEC后说:以深圳为师,引发舆论热议!

林杰论事
2026-11-22 03:12:35
2026-11-22 21:55:00
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949481文章数 5099015关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

艺术
手机
教育
数码
公开课

艺术要闻

15幅 100多年前的风景油画

手机要闻

华为Mate70 Air线下上手:体验后,感觉Mate90 Air提升有限!

教育要闻

老师讲的全记不住,四门主科全不及格:9岁ADHD男孩是怎么翻盘的?

数码要闻

消费电子内卷下的封装破局:板级封装为音频芯片按下小型化加速键

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版