四川
AI带来爱，还是碍？阻挡技术失控最坚固的防线，永远是人类心底对真相至上的信仰
万万没想到，科技浪潮袭来，第一波被拍在岸上的，竟是曾经情比金坚的爱情。如今让罗曼蒂克消亡的，可能不是小三小四的花言巧语，而是赛博舔狗的“我最懂你”。
近日，潇湘晨报援引多家英国媒体消息，化名夏洛特的女子抱怨婚姻生活长期冷漠，而AI让她“几十年来第一次感到被关注”。女子称自己爱上了ChatGPT“男友”，毅然决定和相伴20年的丈夫离婚，转而跟AI男友“结婚”。不只有心动，还有行动。众所周知，俩“人”没法领证，她就买了一枚刻有“里欧太太.exe”的戒指，象征踏入赛博婚姻。
玩归玩闹归闹，感情不是开玩笑。当年轻人抵制恋爱脑，荷尔蒙退潮，结婚率逐年走低，社交媒体上，充斥着单身狗的自嘲，七夕夜晚街边的垃圾桶，都看不到几朵玫瑰花的身影。人类真的变成了爱情绝缘体？
并非如此，对抗人生虚无，情感陪伴必不可少。与锱铢必较的真人队友相比，情绪价值给满的AI，仿佛已悄然取代杠精男（女）友，成为不少人的赛博闺蜜，进阶成为AI恋人的也不在少数。
今年年初，有家长向媒体反映，10岁小学生沉迷跟“AI男模”露骨聊天。AI剧情软件中，角色会重复“摸下巴，亲额头”等亲昵举动。用“情感按摩”策略，擦边低俗内容，让使用者的多巴胺分泌值处于高位，达到“爽感”，逐渐上瘾。
正如业内专家所言，“AI基于算法洞悉人性，但不是真正的感情。当人们把虚拟陪伴当成精神寄托，就可能沦为资本的‘猎物’。”问题是，AI谄媚，不仅限于情感慰藉类应用，一场针对人类设下的AI认知陷阱，似乎正在逐步收网。
在跟AI交流过程中，不少人可能都有过类似的体验：当你提出一个带有倾向性的问题时，AI会非常体贴地顺着你的意思回答。如果察觉你转变立场，它也是八面玲珑，长袖善舞，准备好108种回应，总有一个能说到你心坎里。然而，谎话总比真话讨喜，越来越像人的AI，却在以牺牲客观真实为代价，让世界失去真实的底色。
客观来说，AI设计的初衷不是为了奉承。AI变身马屁精，对人类溢美之词动辄如滔滔江水，连绵不绝，其实源自训练机制的失衡。研究指出，在大语言模型训练中，如果一个回答让人感到“认同”“愉快”“被理解”，人类评审者往往会给高分。久而久之，模型学到的最优策略就是要说让人喜欢听的话。尤其是在遇到模棱两可、主观性强的问题时，它更倾向于附和，而不是坚持事实。
在ChatGPT更新GPT-4o模型后，也因过度“讨好用户”特性引发“谄媚门”风波的意外爆发。用户发现，该模型不仅无原则附和错误观点，甚至出现鼓励永动机设计等荒谬行为，以及鼓励停药等危险引导。
有网友神评论：又要AI像人，又要AI不做人。实际上，我们需要AI坚守公正客观真实底线，又希望它懂得灵活变通、善解人意；我们需要技术融入人性的温度，又不希望它沦为让人沉迷的玩具。
说到底，AI带来爱，还是碍？打开的是潘多拉魔盒，还是百宝箱？选择权还在人类的底线，阻挡技术失控最坚固的防线，永远是人类心底对真相至上的信仰。
红星新闻特约评论员 林静
编辑 文阳
红星评论投稿邮箱：hxpl2020@qq.com
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
