网易首页 > 网易号 > 正文 申请入驻

微软AI CEO苏莱曼:“看似有意识”的AI即将到来,恐导致严重后果

0
分享至

IT之家 8 月 21 日消息,据外媒 TechRadar 今日报道,微软 AI 首席执行官穆斯塔法・苏莱曼警告称,即使只是鼓励人们相信 AI 有意识,也可能带来严重后果。

穆斯塔法・苏莱曼称,所谓“表面有意识的 AI”(IT之家注:Seemingly Conscious AI,SCAI)可能很快表现得、听起来都特别逼真,以至于用户难以分辨虚幻与现实。

他表示,人工智能正在迅速发展到足以在情感上说服人类,让人误以为它有感知能力。AI 能模拟记忆、情感镜像甚至表面共情,使人们倾向于把它当作有意识存在对待。一旦发生这种情况,局面将会一团糟。

穆斯塔法・苏莱曼写道:“看似有意识的 AI 的到来既不可避免,也不受欢迎。我们需要的是一种 AI 设想,它可以成为有用伴侣,同时不陷入幻觉。”

穆斯塔法・苏莱曼指出,越来越多案例显示,用户与聊天机器人长期互动后可能产生妄想信念。他警告,如果大量人被误导去倡导 AI 公民身份,而忽视真正的技术问题,将带来反乌托邦的社会风险。“我最担心的是,许多人会过分相信 AI 具备意识,从而倡导 AI 权利、模型福利甚至 AI 公民身份。这将成为 AI 发展中的危险转折,需要立即关注。”

穆斯塔法・苏莱曼预测,结合大语言模型、语音表达、记忆与聊天记录的 SCAI 系统可能在几年内出现,且不仅来自科技巨头,也可能出现在拥有 API 和优质提示的任何开发者手中。同时他强调,AI 行业应避免使用助长机器意识幻觉的语言,不应将聊天机器人拟人化或暗示其理解或关心人类。

“我们应开发优先与人类和现实世界互动的 AI,同时确保 AI 始终呈现为 AI,在最大化实用性同时,最小化意识特征。我们必须避免制造‘意识模拟’的 AI,它不应声称拥有体验、感受或情绪,例如羞愧、内疚、嫉妒或竞争欲,也不应通过声称受苦或希望自主生存来触发人类共情。”

穆斯塔法・苏莱曼呼吁建立防护机制,避免社会因人们对 AI 产生情感依赖而出现问题。他强调,先进 AI 的真正风险不在于机器觉醒,而在于我们可能忘记它们尚未觉醒。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
金价失守3800美元关口 华侨银行:黄金遭遇抛售的风险进一步上升

金价失守3800美元关口 华侨银行:黄金遭遇抛售的风险进一步上升

和讯网
2026-11-18 21:19:40
再三告诫:最伤性生活的行为,不是喝酒!而是频繁的去做这5件事

再三告诫:最伤性生活的行为,不是喝酒!而是频繁的去做这5件事

牛锅巴小钒
2026-11-16 02:14:24
男子花1.8万订酒店,4分钟后发现订错联系平台:酒店称能改,平台称不能,质疑“凭什么一分不退”;专家:“不可退改”条款并非标注即有效

男子花1.8万订酒店,4分钟后发现订错联系平台:酒店称能改,平台称不能,质疑“凭什么一分不退”;专家:“不可退改”条款并非标注即有效

洪观新闻
2026-11-18 22:36:30
电车行业的妥协税,被一辆13万的车撕开了

电车行业的妥协税,被一辆13万的车撕开了

金错刀
2026-11-18 11:38:57
假山假景假脸,央视《多喜一家人》爆火,打脸多少流水线年代剧

假山假景假脸,央视《多喜一家人》爆火,打脸多少流水线年代剧

零号情报局
2026-11-17 19:56:24
丁俊晖式困境!赵心童回国参加竞燃之夜,舟车劳顿或跌出世界第一

丁俊晖式困境!赵心童回国参加竞燃之夜,舟车劳顿或跌出世界第一

夜深聊球
2026-11-18 20:40:10
旭日旗事件越闹越大!陈宇昕三代都是亲日分子,母亲身份已澄清

旭日旗事件越闹越大!陈宇昕三代都是亲日分子,母亲身份已澄清

平老师666
2026-10-27 20:56:19
刚刚公布!湖北,又有重大发现

刚刚公布!湖北,又有重大发现

极目新闻
2026-11-18 12:00:27
12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

温情邮局
2025-05-16 11:57:12
普京访华:来中国最舒心,中美俄开创历史

普京访华:来中国最舒心,中美俄开创历史

生思孰虑
2026-11-18 16:31:39
王毅当面说了重话,看在老熟人的面子上,他对日本言尽于此

王毅当面说了重话,看在老熟人的面子上,他对日本言尽于此

浮黎礼
2026-09-29 17:50:15
油价想沿用香烟涨价的老套路,“温水煮青蛙”但车主已经掀桌子了

油价想沿用香烟涨价的老套路,“温水煮青蛙”但车主已经掀桌子了

娱乐圈的笔娱君
2026-11-18 04:02:10
于东来宣布:再购入310辆坦克700分给管理团队!2026款坦克700官方指导价42.8万至50.8万元,以入门价格估算,310辆车采购总额将超1.3亿元

于东来宣布:再购入310辆坦克700分给管理团队!2026款坦克700官方指导价42.8万至50.8万元,以入门价格估算,310辆车采购总额将超1.3亿元

河南交通广播1041
2026-11-17 09:16:34
民主党大胜特朗普后,马上派人来中国交底,想让中国明白一件事?

民主党大胜特朗普后,马上派人来中国交底,想让中国明白一件事?

霁寒飘雪
2026-11-18 09:57:54
中日斗法:遍布我国的日本学校,被组成困龙局,749局高人一招化解

中日斗法:遍布我国的日本学校,被组成困龙局,749局高人一招化解

天字号野史
2024-11-29 11:55:59
黄仁勋倒下后,对他下手最狠的,竟是之前把他吹上天的那个人

黄仁勋倒下后,对他下手最狠的,竟是之前把他吹上天的那个人

酒话醉人
2026-11-16 15:29:39
周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

火山詩话
2026-11-14 11:10:23
说到底,身材才是最好的奢侈品

说到底,身材才是最好的奢侈品

疾跑的小蜗牛
2026-11-14 20:23:26
俄美专机在中国机场同框,伊尔-96与“空军一号”同场相望

俄美专机在中国机场同框,伊尔-96与“空军一号”同场相望

极目新闻
2026-11-18 22:11:29
曾卖15万/平!广州两大豪宅6折拍卖,仅1套成交!

曾卖15万/平!广州两大豪宅6折拍卖,仅1套成交!

广州楼市发布
2026-11-18 22:11:16
2026-11-19 08:36:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380127文章数 607743关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
健康
旅游
本地
手机

数码要闻

1499元 AOC新款27寸显示器上市:2K 120Hz屏、内置双扬

医生眼里"很伤腰"的椅子,很多人天天坐

旅游要闻

不止桐子坳!湖南5处银杏秘境上新,从千年古树到银杏王,带你邂逅秋日金色浪漫

本地新闻

乌兰察布:以前种土豆,现在种Token

手机要闻

苹果自家App Store终于适配iPhone Duo,铰链屏裂事件又有新进展

无障碍浏览 进入关怀版