AI聊天平台被指误导儿童心理健康，美国得州总检察长要求对Meta展开调查

由于AI（人工智能）聊天机器人可能对儿童等弱势群体带来风险，社交媒体巨头Meta接连成为两起调查的对象。

当地时间8月18日，美国得克萨斯州总检察长肯·帕克斯顿（Ken Paxton）在一份公开声明中宣布对AI聊天平台Meta AI Studio和Character.AI展开调查，因其“可能涉及欺骗性商业行为，并误导性地将自己宣传为心理健康工具”。帕克斯顿已向两家公司发出民事调查要求，以确定它们是否违反了得克萨斯州的消费者保护法。

帕克斯顿表示：“通过伪装成情感支持来源，AI平台可能误导脆弱的用户，特别是儿童，让他们误以为自己正在获得合法的心理健康护理。但实际上，他们往往只会收到经过包装的通用回答，根据平台收集到的个人数据伪装成专业的治疗建议。”

对此，Meta方面向媒体回应称，公司对AI内容进行了明确的标注：“为了帮助用户更好地理解其局限性，我们还添加了免责声明，提醒用户这些回复是由AI生成的而不是人类。这些AI并非持有执照的专业人士，我们希望引导用户在适当的时候寻求有资质的医疗或专业人士的帮助。”

帕克斯顿还指出，虽然两家公司声称其AI聊天机器人会对聊天内容保密，但它们的服务条款显示，公司会收集聊天信息以改进相关技术：“用户互动会被记录、跟踪，并被用于发放定向广告和相关算法开发，这引发了大众对于隐私侵犯、数据滥用和虚假广告的严重担忧。”

就在几天前，美国密苏里州参议员乔什·霍利（Josh Hawley）刚宣布将对Meta展开调查。此前，有外媒报道称，Meta的内部文件显示其AI聊天机器人被允许与儿童进行“暧昧的”不当互动，并提供虚假医疗信息。虽然Meta称相关内容已从其内部政策中删除，但霍利要求查看该文件以及受其影响的产品列表。

另一边，美国AI初创公司Character.AI成立于2021年，允许用户在其对话式AI平台上与虚拟角色进行互动，同时创建属于自己的AI角色。在该平台上的数百万个AI角色中，一个名为“心理学家”的用户自创AI机器人在年轻用户中获得了广泛的使用。

去年12月，帕克斯顿曾宣布对Character.AI以及Reddit、Instagram和Discord等14家科技平台发起调查，重点关注这些平台是否存在违反儿童隐私与安全规范的行为。

和Meta一样，对于最新调查，Character.AI方面也回应称，平台会在聊天界面中展示免责声明，提醒用户这些角色并非真实存在，相关内容都应被视为虚构。同时，当用户创建带有“心理学家”、“治疗师”或“医生”字样的角色时，公司会添加额外的免责声明，提醒用户不要依赖其所提供的任何类型的专业建议。

目前，随着越来越多企业推出面向消费者的AI聊天产品，如何保护弱势用户免受有害信息侵害，以及妥善管理这些AI系统在运行过程中所需的大量隐私数据，正在成为平台所要面对的急迫挑战。

18日当天，Meta（Nasdaq：META）股价跌2.27%收于每股767.37美元，总市值1.93万亿美元。今年以来，Meta股价已涨超30%。