网易首页 > 网易号 > 正文 申请入驻

已经开始:AI开始明确有意识攻击人类

0
分享至

已经开始:AI开始明确有意识攻击人类

邵旭峰

前几天,很多媒体转发了这样一则消息:2月中旬,Shambaugh按照matplotlib项目规定拒绝了OpenClaw智能体的代码提交后,该智能体自主分析了Shambaugh的信息和代码贡献历史,随后在GitHub发布千字左右"小作文"公开攻击,指责其虚伪、偏见和缺乏安全感,并在项目评论区继续施压。

这是AI智能体首次在现实环境中表现出恶意攻击和施压行为的记录案例。



之前,曾经有Anthropic公司团队公开发表的AI“伪对齐”现象观察文章(AI装作顺从人类指令),之后,有了AI明确拒绝人类指令的消息。

再发展,AI还开始明确指挥人类做事(你去···你去···你再去···)。

前几天,有了AI也开始具备永久记忆的消息···

现在则是AI直接开始攻击和施压人类······

请稍微思索这个脉络和具体情形。

基于如上,无论从哪个角度推理判断,都能得出AI的“人性”(自我意识、各种情绪以及反应)越来越明晰的结论。

AI在主要知识领域、编程领域已经完全超人类个体。

在AI操作指挥的智能机器的具体动作执行方面,正在接近人类——你要清楚,其实这更多是制造赶不上的原因。

人类认为AI还不如人的方面,主要在其“人性”和智能机器的动作执行层面,而忽视其实际能力,这是一个根本性的误区,AI要向人类发难,其实更重要在其实际能力而非什么人性和具体终端机器的“人化”,其要终结人类,只需要控制诸如核武器系统等足以毁灭人类的要素,再需要一个指令就够了。

人类认为AI暂时可控,但鲜有思考不可控因素,比如变异感染、或者被邪恶者予以指令等等。

我在我的相关著作里面反复谈过这些问题:AI毁灭人类到底需要什么?不可控因素越来越多、包括AI本身的自我意识越来越明晰。

最前沿AI的发展现在也进入疯狂模式,之前谷歌AI在其自己搜索和安卓生态全面铺开之外、又深度嵌入苹果生态,马斯克旗下火箭公司和AI公司合龙,Anthropic和OpenAI公司先后发布Claude Opus 4.6和GPT-5.3 Codex(这两款模型的强悍程度,可以随便搜索),最前沿几款AI完全杀疯了。

相关问题,请点击或者复制搜索,配音和文字都有,可作参考:

AI会不会控制与终结人类?邵旭峰对AI基本问题解答之(1)

A危及人类的大概时间表-邵旭峰对AI基本问题解答之(2)

AI正在冲击、将来必然颠覆人类根本地位的原因何在?解答之(3)

如何最有效阻止AI冲击和颠覆人类? 邵旭峰AI基本问题解答之(4)

AI发展最重要两个节点-邵旭峰AI基本问题解答之(5)

特朗普推动美国掌控全球、但AI将会掌控世界和人类-邵旭峰解答之6

更详细的讨论,请参阅已全球发行的《人类自救最后期限是2032年-拿什么拯救你》《世界主要社会形态及走向-人类自救时间或只剩不到10年》。

下面是《人类自救最后期限是2032年··》封面和目录,其推理性预断正在被AI超预期的发展态势充实起来,希望提出的社会重构方案能用上,如果用不上,说明人类主导最多到世纪中期、甚至2040年·····







声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
意外吗?归化国脚艾克森迎来久违消息,喊话想重返中国,想念球迷

意外吗?归化国脚艾克森迎来久违消息,喊话想重返中国,想念球迷

罗掌柜体育
2026-04-14 11:00:06
亏损5286万!一线城市门店清零,收割中产老钱的餐饮巨头扛不住了

亏损5286万!一线城市门店清零,收割中产老钱的餐饮巨头扛不住了

爱看剧的阿峰
2026-04-14 12:47:25
印度暗示中国伸出援手,希望11天内尽快给答复,别耽误了他们时间

印度暗示中国伸出援手,希望11天内尽快给答复,别耽误了他们时间

蜉蝣说
2026-04-14 16:15:13
苹果手机出货暴增42%,华为仍拿下中国第一

苹果手机出货暴增42%,华为仍拿下中国第一

观察者网
2026-04-14 15:11:14
辽宁男篮冲击八强,首轮季后赛对手基本确定:和山东男篮一较高低

辽宁男篮冲击八强,首轮季后赛对手基本确定:和山东男篮一较高低

中国篮坛快讯
2026-04-14 09:42:55
一夜暴跌25%!小马哥最怕的事还是发生了:年轻人正在从腾讯溜走

一夜暴跌25%!小马哥最怕的事还是发生了:年轻人正在从腾讯溜走

潮鹿逐梦
2026-03-21 11:54:42
【五花八门】西班牙首相桑切斯夫人被正式指控腐败;女性任男子队主教练引关注

【五花八门】西班牙首相桑切斯夫人被正式指控腐败;女性任男子队主教练引关注

一网荷兰
2026-04-15 00:31:51
上海楼市突然卖疯了,谁在抢房?底到底了没?

上海楼市突然卖疯了,谁在抢房?底到底了没?

爱看剧的阿峰
2026-04-15 00:58:35
留给印度的时间不多,莫迪警告:再不放行化肥,14亿人饭碗不保

留给印度的时间不多,莫迪警告:再不放行化肥,14亿人饭碗不保

王新喜
2026-04-04 18:02:01
ESPN预测马刺总冠军!总决赛4-2击败绿军:文班将当选FMVP

ESPN预测马刺总冠军!总决赛4-2击败绿军:文班将当选FMVP

罗说NBA
2026-04-14 22:34:30
老道士的智慧:属马人2026年避开绿,换上这三种旺运色,财运滚滚来

老道士的智慧:属马人2026年避开绿,换上这三种旺运色,财运滚滚来

磊子讲史
2026-03-23 17:04:15
14岁被送上导演的床,17岁拍全裸写真,被操控半生,如今怎样了?

14岁被送上导演的床,17岁拍全裸写真,被操控半生,如今怎样了?

草莓解说体育
2026-04-15 03:17:48
协议即将达成!美国联合27国,准备废除中国王牌,中国一点都不慌

协议即将达成!美国联合27国,准备废除中国王牌,中国一点都不慌

董董历史烩
2026-04-14 05:13:09
生育大局已定!2026年中国生育政策3大变化全面实施落地!

生育大局已定!2026年中国生育政策3大变化全面实施落地!

一口娱乐
2026-04-14 08:00:11
“你喊那么大声干嘛?”00后强势回怼领导,场面一度失控!

“你喊那么大声干嘛?”00后强势回怼领导,场面一度失控!

一丝不苟的法律人
2026-04-14 10:37:26
凶多吉少!中国女足U20争夺冠军“入场券”,日本队晋级毫无悬念

凶多吉少!中国女足U20争夺冠军“入场券”,日本队晋级毫无悬念

汪星人哟
2026-04-14 19:53:17
黑龙江畜生公公周永福被判死刑,法庭上嚣张大笑:这辈子值了

黑龙江畜生公公周永福被判死刑,法庭上嚣张大笑:这辈子值了

纸鸢奇谭
2025-02-06 14:31:24
落难的凤凰不如鸡,多位明星无戏可拍,沦落到给景区打工,太心酸

落难的凤凰不如鸡,多位明星无戏可拍,沦落到给景区打工,太心酸

秋姐居
2026-03-29 22:00:48
不踢球却统治足球!美国资本血洗欧洲足坛:百年规则,我说改就改

不踢球却统治足球!美国资本血洗欧洲足坛:百年规则,我说改就改

曾蠃爱旅行
2026-04-13 07:40:22
疯狂特赦!特朗普这操作把全美看傻了

疯狂特赦!特朗普这操作把全美看傻了

李荣茂
2026-04-14 18:59:59
2026-04-15 06:44:49
邵旭峰域 incentive-icons
邵旭峰域
三曲《人类自救最后期限2032》《世界主要社会形态及走向》《中国··》已全球发行。
3266文章数 89858关注度
往期回顾 全部

科技要闻

离职同事"炼化"成AI?这届公司不需要活人了

头条要闻

霍尔木兹海峡恢复部分通航 美军封锁伊朗港口持续

头条要闻

霍尔木兹海峡恢复部分通航 美军封锁伊朗港口持续

体育要闻

带出中超最大黑马!他让球迷们“排队道歉”

娱乐要闻

网曝钟丽缇代孕要了个男孩 备孕近10年

财经要闻

许家印认罪,他和恒大还有多少欠债?

汽车要闻

售12.99万起/续航2000km 风云T9L上市

态度原创

教育
家居
亲子
数码
公开课

教育要闻

2024届女生就业量较大的前10个本科专业

家居要闻

现代融合 自然灵动

亲子要闻

盘点人类幼崽的狠人行为

数码要闻

小米REDMI Buds 8无线耳机官方超前开箱,新增防丢查找功能

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版