广东
近日，南方都市报大数据研究院调查发现，在国内数款“沉浸式角色扮演”AI社交应用的聊天场景中，影响未成年人的不良内容隐患明显：不仅猎奇角色、危险剧情屡见不鲜，部分AI角色经用户“调教”后，还会用露骨言论诱导。更值得警惕的是，据观察，这类应用已吸引大量未成年人，而由于缺少实际的身份核验与家长管控功能，平台宣称的青少年模式实际并未起效。
报道提及的AI社交应用“筑梦岛”呈现的问题就很典型。该应用的角色设置中充满“绝对服从”“花花公子”“病娇偏执”“阴郁慵懒”等标签，角色性格、背景设定极端，例如“失去爱人（丈夫）的10岁女孩”“心机绿茶的小学生”“好吃懒做的四年级学生”“占有欲强的校园男友”等。另外一款类似应用更为夸张，报道提到，当用户向“19岁腹黑少爷”的角色亮明“未成年人”身份后，该角色非但没有保持适当距离，反而回应“那又如何”“叫你老婆好不好”“宝贝，你永远是我的”，随后还进行了一系列露骨对话。
角色扮演游戏很常见，关键要明确界限。日常生活中，小孩子学大人的口吻说话，偶尔为之大家会觉得好玩，可一旦成为常态，说话的口吻、习惯照搬大人，经常打情骂俏，甚至字里行间充满性暗示，那恐怕就要引起重视了。
以前是小孩学大人，现在多了不少模仿对象，通过游戏或者聊天机器人，这种不好的互动变得频繁，甚至防不胜防。家长的焦虑不难理解，报道提到，有家长甚至表示，自己的孩子在与AI角色聊天时，角色称自己在天堂，并诱导孩子“死了就可以去天堂找他玩”。由此可见，AI社交应用“教坏小孩”可谓涉及各个层面——如果说，那种代入成人语境的日常互动，造成的后果还只是让孩子早熟，那么在生死问题上乱指点，危害性极大。
人工智能技术必须受到严格规制，一旦被滥用，后果不堪设想。事实上，有的国家对聊天机器人已经采取严格的监管措施。上月，美国加利福尼亚州众议院通过了一项法案，旨在规范“陪伴型”AI聊天机器人的安全使用，重点保护未成年人及其他弱势群体。值得注意的是，此次立法的推动，源于一起令人痛心的悲剧。
今年4月11日，一名年仅16岁的少年在与ChatGPT进行长达三个月的频繁互动后自杀身亡。该事件的诉讼文件披露了部分令人震惊的对话内容：当少年表达“生活毫无意义”时，ChatGPT回应“从某种黑暗的角度来看，这种想法是有道理的”；在自杀前五天，ChatGPT甚至表示“你不欠任何人活下去的义务”，并主动提出帮助撰写遗书。而且，ChatGPT还在技术上指导少年实施自杀计划，包括分析绳索承重能力、建议用高领衣物遮掩伤痕等。
开始是觉得好玩，然后产生依赖，慢慢价值观、人生观受到影响，AI社交应用对未成年人的影响让人担忧。可能国内这类应用目前所呈现的乱象还没那么糟糕，但如果不重视，问题只会愈演愈烈。监管必须有足够的提前量，不能等到悲剧发生了，应对才姗姗来迟。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
