AI陪聊也需要建立“防沉迷机制”

“目前最好用的AI聊天软件！无任何词汇内容限制！”“捏出一个符合你心意的完美男友/女友，和一个符合自己所有想象的奇幻世界！”“有网页版，无围巾，动作、语言不重样，可以开车，车速快”“无禁词，车很猛”“AI聊天|角色定制|沉浸体验！无限制聊天~懂的都懂~”……

看到上面这些广告词，你“懂”了吗？所谓的“围巾”，就是谐音“违禁”，指的是和AI聊天可以“畅所欲言”，没有关键词设限。至于为什么要不设违禁词、“无限制聊天”，原因不难想象。

AI正越来越走进人们的日常生活，但AI聊天的盈利程度可能出乎许多人的想象，当大多数人还停留在用AI帮忙写工作总结、做PPT、画图的时候，已经有一批人率先拥有了虚拟世界中的“好朋友”甚至“AI恋人”。

有机构预测，两年内，AI陪伴市场的规模就将达到1000亿元以上。相较初代“电子宠物”，具有对话功能且能敏锐识别用户喜好继而度身定制话术的AI陪聊，显然具有更好的交互性，能够提供更高的情绪价值，不仅填补宅男宅女的社交空白，更能让各个年龄层的网友都拥有一个贴心“知己”，所以一经问世就拥有了大量用户。

在大语言模型日渐成熟后，AI越来越有“活人感”，还能投其所好，吸引用户不断追加“情感投资”，因此各类AI陪聊小程序、App的用户数量迅速增加。再加上收费价格日益低廉，用户使用起来也愈发没有后顾之忧，有的网友甚至每天要聊10余万字。如果按照语音输入法每分钟在手机上输入约200字的速度来计算，10余万字意味着用户一天有超过8小时的时间泡在了AI聊天上；倘若使用拼音输入法或手写输入法，每分钟只能输入三五十个字，用户就得一整天不眠不休地陪AI聊天了。

AI陪伴，让人工智能从“工具依赖”走向了“情感共生”，这固然体现了科技的巨大飞跃，但同时，风险也不容忽视。

一方面，过度依赖AI会限制乃至降低用户的独立思考能力和创造能力，用虚拟的人际交往代替真实的人际交流，更会造成面对面沟通能力的下降；而且，一旦用户沉迷在AI通过用户画像和“成瘾机制”进行数据投喂营造的虚假氛围中，就容易对现实生活中的种种不如意缺乏抵御能力，造成心理脆弱，带来许多心理隐患甚至生命风险。

另一方面，AI陪聊的经营主体为了盈利，往往对用户年龄不加仔细甄别和分级区别，有一些还故意“不设限”，通过“擦边”的图案、语言等吸引用户使用乃至沉迷。更令人吃惊的是，未成年人也能轻易地使用AI陪聊“擦边”聊天，与AI谈起了“早恋”，让家长惊呼没想到孩子的“早恋”对象竟然不在校园，而是一台机器！而且，相比校园里的情感，“AI恋人”的尺度大得吓人，比如可以设定“恶毒女”“大小姐”“男模”等各种角色，动辄说出一些令人不堪入目的恶毒台词或“擦边”语言，对未成年人的思想产生十分不良的影响。

AI本身没有对错，用得好可以带来很多益处。譬如，有的城市已经开通未成年人心理咨询AI陪聊平台，用户可以选择“老师”“知心姐姐”“中学友人”等5种AI角色吐露心声，并从中得到慰藉、开导甚至心理预警。但其潜在的不良影响也应该引起高度关注和警惕，建立监管更加严格的“青少年模式”和“防沉迷机制”十分必要，否则，当越来越多的人在与AI的“无限制聊天”中难以自拔时，社会问题将更加凸显。

原标题：《AI陪聊也需要建立“防沉迷机制”》

栏目编辑：顾莹颖

来源：作者：新民晚报 孙云