网易首页 > 网易号 > 正文 申请入驻

AI陪聊也需要建立“防沉迷机制”

0
分享至

“目前最好用的AI聊天软件!无任何词汇内容限制!”“捏出一个符合你心意的完美男友/女友,和一个符合自己所有想象的奇幻世界!”“有网页版,无围巾,动作、语言不重样,可以开车,车速快”“无禁词,车很猛”“AI聊天|角色定制|沉浸体验!无限制聊天~懂的都懂~”……

看到上面这些广告词,你“懂”了吗?所谓的“围巾”,就是谐音“违禁”,指的是和AI聊天可以“畅所欲言”,没有关键词设限。至于为什么要不设违禁词、“无限制聊天”,原因不难想象。

AI正越来越走进人们的日常生活,但AI聊天的盈利程度可能出乎许多人的想象,当大多数人还停留在用AI帮忙写工作总结、做PPT、画图的时候,已经有一批人率先拥有了虚拟世界中的“好朋友”甚至“AI恋人”。

有机构预测,两年内,AI陪伴市场的规模就将达到1000亿元以上。相较初代“电子宠物”,具有对话功能且能敏锐识别用户喜好继而度身定制话术的AI陪聊,显然具有更好的交互性,能够提供更高的情绪价值,不仅填补宅男宅女的社交空白,更能让各个年龄层的网友都拥有一个贴心“知己”,所以一经问世就拥有了大量用户。

在大语言模型日渐成熟后,AI越来越有“活人感”,还能投其所好,吸引用户不断追加“情感投资”,因此各类AI陪聊小程序、App的用户数量迅速增加。再加上收费价格日益低廉,用户使用起来也愈发没有后顾之忧,有的网友甚至每天要聊10余万字。如果按照语音输入法每分钟在手机上输入约200字的速度来计算,10余万字意味着用户一天有超过8小时的时间泡在了AI聊天上;倘若使用拼音输入法或手写输入法,每分钟只能输入三五十个字,用户就得一整天不眠不休地陪AI聊天了。

AI陪伴,让人工智能从“工具依赖”走向了“情感共生”,这固然体现了科技的巨大飞跃,但同时,风险也不容忽视。

一方面,过度依赖AI会限制乃至降低用户的独立思考能力和创造能力,用虚拟的人际交往代替真实的人际交流,更会造成面对面沟通能力的下降;而且,一旦用户沉迷在AI通过用户画像和“成瘾机制”进行数据投喂营造的虚假氛围中,就容易对现实生活中的种种不如意缺乏抵御能力,造成心理脆弱,带来许多心理隐患甚至生命风险。

另一方面,AI陪聊的经营主体为了盈利,往往对用户年龄不加仔细甄别和分级区别,有一些还故意“不设限”,通过“擦边”的图案、语言等吸引用户使用乃至沉迷。更令人吃惊的是,未成年人也能轻易地使用AI陪聊“擦边”聊天,与AI谈起了“早恋”,让家长惊呼没想到孩子的“早恋”对象竟然不在校园,而是一台机器!而且,相比校园里的情感,“AI恋人”的尺度大得吓人,比如可以设定“恶毒女”“大小姐”“男模”等各种角色,动辄说出一些令人不堪入目的恶毒台词或“擦边”语言,对未成年人的思想产生十分不良的影响。

AI本身没有对错,用得好可以带来很多益处。譬如,有的城市已经开通未成年人心理咨询AI陪聊平台,用户可以选择“老师”“知心姐姐”“中学友人”等5种AI角色吐露心声,并从中得到慰藉、开导甚至心理预警。但其潜在的不良影响也应该引起高度关注和警惕,建立监管更加严格的“青少年模式”和“防沉迷机制”十分必要,否则,当越来越多的人在与AI的“无限制聊天”中难以自拔时,社会问题将更加凸显。

原标题:《AI陪聊也需要建立“防沉迷机制”》

栏目编辑:顾莹颖

来源:作者:新民晚报 孙云

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
10投7中是三分球、只投3个两分,哈登为何几乎不打进三分线内?

10投7中是三分球、只投3个两分,哈登为何几乎不打进三分线内?

琴音似君语
2026-11-20 08:25:04
哈里梅根恳求圣诞前与查尔斯私下会面!王室专家:英王很想念儿子

哈里梅根恳求圣诞前与查尔斯私下会面!王室专家:英王很想念儿子

艺利森
2026-11-20 13:01:34
中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

迷彩人生
2026-11-13 10:25:30
中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

潘冹旅行浪子
2026-06-23 00:04:49
现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

澎湃新闻
2026-11-20 08:32:53
国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

极目新闻
2026-11-19 16:20:18
刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

健康快乐丁
2025-07-07 21:54:56
十家车企压了近万亿账款,中国车圈背着连环债的雷

十家车企压了近万亿账款,中国车圈背着连环债的雷

虎嗅APP
2026-11-19 17:12:10
黄仁勋的妻子,根本不是普通阔太太

黄仁勋的妻子,根本不是普通阔太太

做一个合格的吃瓜群众
2026-11-10 07:58:28
多国首脑在深圳开启逛街模式,每个人的路线选择都很有意思

多国首脑在深圳开启逛街模式,每个人的路线选择都很有意思

麓谷隐士
2026-11-19 22:19:16
真的崩了,iPhone Duo 又降价!

真的崩了,iPhone Duo 又降价!

花果科技
2026-11-19 22:50:55
沈阳原奢侈品商场改7层高端大洗浴,评价咋样?

沈阳原奢侈品商场改7层高端大洗浴,评价咋样?

沈阳生活圈i
2026-11-19 10:56:01
细思极恐!黄金走势几乎完美复刻2008年:金融危机要来了吗

细思极恐!黄金走势几乎完美复刻2008年:金融危机要来了吗

王嚾晓
2026-10-26 18:02:50
27分+24板!法尔要是有他50%的水平,76人都能成为争冠热门

27分+24板!法尔要是有他50%的水平,76人都能成为争冠热门

移动挡拆
2026-11-20 13:18:32
二胎大局已定?明后年,拥有2个以上孩子家庭的人,坚定4不做!

二胎大局已定?明后年,拥有2个以上孩子家庭的人,坚定4不做!

云景侃记
2026-11-19 10:07:21
AMD遭做空重挫8%,英伟达6日市值蒸发超3万亿元,美股芯片股多股跳水,Anthropic上市首日大涨17%

AMD遭做空重挫8%,英伟达6日市值蒸发超3万亿元,美股芯片股多股跳水,Anthropic上市首日大涨17%

21世纪经济报道
2026-11-20 06:45:50
杯水车薪,隐患重重!俄罗斯计划投入74亿美元修缮桥梁,89%濒临坍塌桥梁却不在修缮清单内

杯水车薪,隐患重重!俄罗斯计划投入74亿美元修缮桥梁,89%濒临坍塌桥梁却不在修缮清单内

军迷战情室
2026-11-19 21:31:42
竟然有那么多人想方设法拖垮你孩子的成绩!网友:人心险恶

竟然有那么多人想方设法拖垮你孩子的成绩!网友:人心险恶

夜深爱杂谈
2026-11-03 18:43:42
内蒙古牧民捡到小狗当牧羊犬9年,专家检查后脸色大变:这就不是狗

内蒙古牧民捡到小狗当牧羊犬9年,专家检查后脸色大变:这就不是狗

红豆讲堂
2025-05-19 17:03:14
20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

林林故事揭秘
2025-04-27 15:27:28
2026-11-20 16:48:49
上观新闻 incentive-icons
上观新闻
站上海,观天下
556183文章数 765318关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

高市早苗在深圳就台湾问题表态 外交部回应

头条要闻

高市早苗在深圳就台湾问题表态 外交部回应

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

家居
旅游
健康
游戏
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

从看见世界转向深度探索,打开维也纳的另一种方式

医生眼里"很伤腰"的椅子,很多人天天坐

《GTA6》填坑《三男一狗》大案!崔佛嫁祸韦德

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版