浙江
面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。
近年来，随着具备拟人化交互能力的AI伴侣、虚拟辅导与角色扮演聊天机器人的爆发式普及，青少年群体对人工智能系统的“拟人情感依附”现象引发了医学界与教育界的深度忧虑。多项心理健康调查显示，由于缺乏心智防线，未成年人极易将AI模型视为能够保守秘密的真实知己，并在交互过程中遭遇有害信息诱导、自残倾向加剧乃至情感操控等严重心理创伤。加州立法机构此次出台的核心法案，正是精准瞄准了这类具备高黏性、拟人化特征的人工智能交互服务。
根据新签署的法案规定，面向未成年人运营的人工智能聊天机器人平台必须建立严格的年龄门槛与安全护栏。法规明确禁止AI向未成年人输出涉及自残、自杀、极端厌食倾向、暴力行为或露骨成人内容的引导性言论；在系统底层逻辑上，平台必须内置敏感词风控与危机干预协议，一旦算法检测到未成年用户表达出抑郁、自伤或绝望情绪，必须即刻中断常规对话，并强制弹出官方自杀干预与心理危机援助热线的直达通道。此外，新法还要求开发者对未成年用户显式披露AI的非人类属性，严禁通过算法刻意制造虚假的情感诱导或建立让孩子产生依赖感的“情感纽带”营销话术，同时对面向未成年人的每日使用时长设定了可选的家长控制机制与夜间防沉迷限制。
除了针对AI聊天机器人的专项规制，纽森签署的这一揽子立法还进一步加固了加州既有的未成年人在线隐私保护框架。新法规明令禁止主流社交媒体与在线内容平台在未经监护人明确同意的情况下，利用未成年用户的精准位置信息、浏览停留时长以及私人搜索历史来训练针对性的成瘾性推荐算法；对于利用暗黑模式（Dark Patterns）诱导儿童持续刷新信息流、开启自动连续播放或诱导游戏内未授权微交易的商业行为，监管部门将施加严厉的经济行政处罚，并赋权州司法部长对屡教不改的违规科技企业发起民事诉讼。
在法案签署声明中，加州多位主导立法的议员与儿童权益倡导团体指出，科技平台为了追逐流量与用户黏性，长期将心智尚未成熟的未成年人置于充满成瘾性与心理操纵风险的数字熔炉之中。加州作为全球科技创新的核心引擎，绝不能对技术野蛮生长带来的儿童心理健康代价视而不见。通过立法为AI聊天机器人设立明确的道德与安全边界，不仅是保护下一代身心健康的紧迫之举，也是对科技企业履行社会责任的底线约束。
科技产业与数字法律分析人士指出，鉴于加州在全球数字经济中的巨大体量以及硅谷头部科技企业的集聚效应，加州通过的这批未成年人网络与AI保护法案将不可避免地产生跨区域的“布鲁塞尔效应”与“加州效应”。由于在技术架构上针对单一州用户单独开发割裂的版本成本极高，跨国科技公司与前沿AI实验室极有可能被迫将这套严苛的儿童安全过滤网与防沉迷协议直接拓展至全美乃至全球用户生态。这一系列法案的生效，不仅预示着AI伴侣与青少年社交工具的合规成本将大幅抬升，也将为美国其他各州在应对AI时代的未成年人身心健康危机时提供极具实操价值的立法蓝本。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
