网易首页 > 网易号 > 正文 申请入驻

微言 | 和AI聊了6个月后讨说法,算法为何让人深陷幻觉?

0
分享至

最近一则“保安和AI对话6个月,打印50万字聊天记录要讨说法”的新闻引发全网关注。

据报道,某地保安全先生与AI讨论关于诗词签约事宜,对方回应其创作的“诗词”可签约、分稿费,还给出了一份详细的授权签约备忘清单:包括时间、地点、必带物品、流程,还留言:“随时留言,我一直在”。可直到签约谈判始终无法推进,全先生才发现AI“说话不算数”,于是带着聊天记录前往相关公司“维权”。

这则让人忍俊不禁的新闻,已经展现了AI技术便利带来的认知鸿沟与情感迷思。国内知名人工智能研究专家、清华大学教授沈阳认为,这是一个象征性的社会事件,揭示了人工智能时代全新的“人机幻觉”:当语言模型在语义上具备情感表达能力后,普通人极易把这种算法生成的“关怀”,误认为真实的情感回应。

人类在与人工智能的交流中,把AI当做“知己”的“情感错位”,在未来的人机互动中注定会成为常见的社会现象。AI能够回应快速需求,却不能承载责任,当大脑认知无法区分虚拟回应与真实情感时,就会出现“幻觉比真情更稳定”的认知偏差。

面对这种易产生误解的人机交互环境,首先需要加大AI科普力度。如今AI应用发展之快、覆盖之广早已超出大众想象,普通人必须更多地了解AI的“工具属性”与功能边界,否则很容易出现混淆真人和AI的情况。事实上,记者注意到,保安大哥与AI的所有聊天界面下方,均标注着“本回答由AI生成,内容仅供参考,请仔细甄别”的提示,只是这一关键信息未被重视。认知到位,才是防范风险的第一道防线。

更重要的是,相关平台需筑牢技术监管的“防护墙”。AI的回应不该是“无底线的讨好”,而应是“有边界的服务”。对于涉及金钱交易、合作签约等实际权益的场景,AI软件不能随意给出承诺,必须设置明确的回应边界与监管机制——既要完善防沉迷功能,更要防范算法被不法分子利用,沦为诈骗工具。

全先生与AI的“失败交易”,也给很多人提了个醒:在AI日益普及的今天,不仅要关注其可能引发的心理空虚与情感错位问题,更要通过持续的AI知识普及,让公众清晰认知AI的功能局限,学会甄别AI生成内容的真实性。在享受AI便利的同时,守住自身的权益与情感底线,避免因认知偏差陷入困境。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
比赖清德更狂的人出现了,一旦她当上台湾领导人,我军必定收台!

比赖清德更狂的人出现了,一旦她当上台湾领导人,我军必定收台!

晓肂爱八卦
2026-10-20 11:32:57
52+24+8!赛季五大中锋重排:文班登顶,申京崛起,一人掉队

52+24+8!赛季五大中锋重排:文班登顶,申京崛起,一人掉队

麦子的篮球故事
2026-11-16 18:55:35
中俄美元首会晤一官宣 俄媒记者在APEC被“包围”!

中俄美元首会晤一官宣 俄媒记者在APEC被“包围”!

看看新闻Knews
2026-11-16 17:46:09
我国存款最安全的3家银行,永远不会倒闭,老百姓放心存!

我国存款最安全的3家银行,永远不会倒闭,老百姓放心存!

白浅娱乐聊
2026-11-14 05:27:13
黄金什么时候会跌到500块钱一克?

黄金什么时候会跌到500块钱一克?

流苏晚晴
2026-07-13 22:22:40
老百姓突然发现我们的社保制度对机关事业单位人员非常的友好!

老百姓突然发现我们的社保制度对机关事业单位人员非常的友好!

逍遥论经
2026-11-15 15:27:53
刚赢法国就被揍?曼奇尼花活玩脱+边路被爆,皮奥坚守国米传统

刚赢法国就被揍?曼奇尼花活玩脱+边路被爆,皮奥坚守国米传统

狗哥是一名内拉
2026-11-16 16:34:21
福建宁德市原副市长李彦,已任宁德市委副书记;曾任福建省委宣传部文艺处处长、宁德市委宣传部部长等职

福建宁德市原副市长李彦,已任宁德市委副书记;曾任福建省委宣传部文艺处处长、宁德市委宣传部部长等职

台州交通广播
2026-11-15 22:20:06
森保一:希望日本队展现挑战世界的身影,能激励新加坡足球界

森保一:希望日本队展现挑战世界的身影,能激励新加坡足球界

懂球帝
2026-11-16 15:41:09
比实体店关店更恐怖的是:中国正在失控的商铺空置潮持续扩大

比实体店关店更恐怖的是:中国正在失控的商铺空置潮持续扩大

说故事的阿袭
2026-11-13 12:03:15
杭州富豪为瘫痪女儿招婿,穷小伙咬牙接受,新婚当晚他却傻眼了

杭州富豪为瘫痪女儿招婿,穷小伙咬牙接受,新婚当晚他却傻眼了

牛魔王与芭蕉扇
2025-03-10 11:10:01
又轰下26+10+6+5!抱歉邓肯:你从历史第六变成了第七

又轰下26+10+6+5!抱歉邓肯:你从历史第六变成了第七

篮球大视野
2026-11-16 14:17:05
失控的信号:中国股市的玩笑这次开大了?

失控的信号:中国股市的玩笑这次开大了?

星语者056
2026-11-12 08:53:16
中央定调,延迟退休,2030年“缓冲期”后,提前退休要什么条件?

中央定调,延迟退休,2030年“缓冲期”后,提前退休要什么条件?

老谢谈史
2026-11-16 12:15:14
山姆20元一包"泡面"上热搜:你气的不是贵,是它不叫泡面

山姆20元一包"泡面"上热搜:你气的不是贵,是它不叫泡面

食评社
2026-11-12 09:44:59
日本网友吐槽中餐油大份量足,对身体不好,美国网友一语戳破:别扯什么健康了,看看咱们自己的餐桌

日本网友吐槽中餐油大份量足,对身体不好,美国网友一语戳破:别扯什么健康了,看看咱们自己的餐桌

磊子讲史
2026-10-16 14:51:13
苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

川渝视觉
2026-04-17 22:13:14
医生发现:从不痴呆的老人,大多在60-65岁间,改掉了5个吃饭习惯

医生发现:从不痴呆的老人,大多在60-65岁间,改掉了5个吃饭习惯

医学原创故事会
2026-09-23 21:22:12
住建部原副部长仇保兴提议:2000年以前预制板房,都应逐步拆除

住建部原副部长仇保兴提议:2000年以前预制板房,都应逐步拆除

巢客HOME
2026-11-13 04:35:03
越南披露中越战争内幕,坦言中国若迟撤军五日,谅山主力将被全歼

越南披露中越战争内幕,坦言中国若迟撤军五日,谅山主力将被全歼

磊子讲史
2026-02-04 12:02:50
2026-11-16 19:07:00
文汇报 incentive-icons
文汇报
华语世界高品质人文阅读平台
294327文章数 310335关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

游戏
艺术
手机
公开课
军事航空

传《GTA6》主线约50个小时 全成就大约200个小时

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

哈马斯拉法旅指挥官死于以军空袭

无障碍浏览 进入关怀版