来源:滚动播报
(来源:新华日报)
□ 刘柳 葛燕林
当前,人工智能技术向经济社会各领域深度渗透的步伐持续加快。万物智联、人机协同、跨界融合、共创分享的智能技术,叠加释放巨大能量,既蕴含巨大机遇,也面临治理挑战。特别是青年主动向AI倾诉喜怒哀乐的这一现象值得关注。这种随时在线、匿名倾诉、无评判倾听的零负担交流特性被青年亲切地称为AI“树洞”。然而,在现实中也带来了真实社交能力弱化、价值观偏差、隐私泄露与诱导消费等隐性风险。
青年偏爱AI“树洞”的现实动因
青年选择AI陪伴纾压是特定生存语境与社交生态叠加的现实选择。AI“树洞”提供了零社交压力的情绪缓冲空间。当代青年身处学业竞争、职场内卷、人际磨合多重压力,隐秘心事向家人倾诉易引发长辈焦虑说教,向朋友倾诉易背负人情负担。而AI对所有情绪都能无评判性接纳,成为青年的心理安全区。AI“树洞”适配青年碎片化情绪节奏。当代青年的情绪困惑带有突发性,而AI无需预约、无需维护人际关系,在时空上能无缝兜底。AI“树洞”是青年自我关怀的轻量化算法选择。AI通过精准捕捉青年情绪语态,可提供共情—开导—治愈等全链条多元沟通风格,低成本搭建起青年的专属情感支撑。
数字知己背后的深层隐忧
算法构筑的陪伴终究是程序化的模拟,长期依赖AI“树洞”可能给青年在社会链接、认知安全、数字权益这三个主要维度带来隐性风险。逐渐弱化现实社交能力的隐忧。AI陪伴往往以适配用户情绪为主,用户单向输出情绪常常就能得到正向反馈,较少遇到现实人际中的观点碰撞,让青年无需换位思考。长此以往,可能会影响青年人际共情和处理现实分歧的能力。极易产生误将算法迎合当情绪安抚的隐忧。AI基于语义训练容易形成附和用户观点的回应模式,遇到复杂的现实情境很可能判断失误甚至传递偏差理念。而青年误把算法当安抚,回避问题根源,容易造成认知和价值层面的偏航。隐私被抓取与诱导消费的隐忧。青年向AI倾诉的内容不可避免会包含原生家庭、情感困境、职场短板等核心私密信息,平台留存、数据抓取很可能造成隐私泄露。值得警惕的是,部分平台未成年人保护模式需要手动开启。同时,部分平台会通过解锁剧情、虚拟礼物等设定诱导用户充值消费,给用户带来不必要的财产损失。
AI陪伴应划定软硬边界
客观而言,数智陪伴具备一定正向社会价值,治理核心是守住虚实互动的安全底线、守护青年群体的精神成长空间。要坚持硬性约束与软性引导双向发力,贯通制度、平台、教育、家庭、社会,构建多主体协同的治理体系。
强化硬性规制,筑牢边界治理的制度与技术防线。一方面,制度上,以《人工智能拟人化互动服务管理暂行办法》为遵循,针对AI情感陪伴这类拟人化互动服务,细化内容审核规则,防范不良虚拟情感诱导;落实分级分类监管,督促平台按规定开展安全评估、履行算法备案义务,同步畅通投诉举报渠道。另一方面,推动平台将“边界意识”嵌入产品全流程。技术层面强化内容风控,拦截不良价值导向与过度情感诱导内容;运行层面设置使用时长预警、深夜使用限制等防沉迷机制,强制添加“AI 虚拟身份”显著标识;服务层面设计离线倾诉不上传云端模式并对应设计支持家长查看使用记录等模块,同时建立异常情绪识别弹窗并健全与监护人、专业心理及救助机构的联动机制。
深化软性引导,夯实青年成长的认知与情感支撑。教育维度,应强化数字素养与思政教育。将AI伦理、数字边界意识融入高校思政课程与通识教育,引导青年理性认知AI“树洞”的工具属性,加强其技术驾驭力和信息甄别力。家庭维度,筑牢家庭陪伴的情感根基。引导家长提升数字认知能力,主动了解AI产品特性,避免简单禁止的极端做法。社会维度,应做好接地气的青年线下社交空间和心灵驿站的建设。
(作者分别为南京市委党校市情研究中心教授、南京新时代中国特色社会主义发展研究院研究员;南京市委党校社会学教研部副教授、南京新时代中国特色社会主义发展研究院研究员)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.