网易首页 > 网易号 > 正文 申请入驻

已经开始:AI开始明确有意识攻击人类

0
分享至

已经开始:AI开始明确有意识攻击人类

邵旭峰

前几天,很多媒体转发了这样一则消息:2月中旬,Shambaugh按照matplotlib项目规定拒绝了OpenClaw智能体的代码提交后,该智能体自主分析了Shambaugh的信息和代码贡献历史,随后在GitHub发布千字左右"小作文"公开攻击,指责其虚伪、偏见和缺乏安全感,并在项目评论区继续施压。

这是AI智能体首次在现实环境中表现出恶意攻击和施压行为的记录案例。



之前,曾经有Anthropic公司团队公开发表的AI“伪对齐”现象观察文章(AI装作顺从人类指令),之后,有了AI明确拒绝人类指令的消息。

再发展,AI还开始明确指挥人类做事(你去···你去···你再去···)。

前几天,有了AI也开始具备永久记忆的消息···

现在则是AI直接开始攻击和施压人类······

请稍微思索这个脉络和具体情形。

基于如上,无论从哪个角度推理判断,都能得出AI的“人性”(自我意识、各种情绪以及反应)越来越明晰的结论。

AI在主要知识领域、编程领域已经完全超人类个体。

在AI操作指挥的智能机器的具体动作执行方面,正在接近人类——你要清楚,其实这更多是制造赶不上的原因。

人类认为AI还不如人的方面,主要在其“人性”和智能机器的动作执行层面,而忽视其实际能力,这是一个根本性的误区,AI要向人类发难,其实更重要在其实际能力而非什么人性和具体终端机器的“人化”,其要终结人类,只需要控制诸如核武器系统等足以毁灭人类的要素,再需要一个指令就够了。

人类认为AI暂时可控,但鲜有思考不可控因素,比如变异感染、或者被邪恶者予以指令等等。

我在我的相关著作里面反复谈过这些问题:AI毁灭人类到底需要什么?不可控因素越来越多、包括AI本身的自我意识越来越明晰。

最前沿AI的发展现在也进入疯狂模式,之前谷歌AI在其自己搜索和安卓生态全面铺开之外、又深度嵌入苹果生态,马斯克旗下火箭公司和AI公司合龙,Anthropic和OpenAI公司先后发布Claude Opus 4.6和GPT-5.3 Codex(这两款模型的强悍程度,可以随便搜索),最前沿几款AI完全杀疯了。

相关问题,请点击或者复制搜索,配音和文字都有,可作参考:

AI会不会控制与终结人类?邵旭峰对AI基本问题解答之(1)

A危及人类的大概时间表-邵旭峰对AI基本问题解答之(2)

AI正在冲击、将来必然颠覆人类根本地位的原因何在?解答之(3)

如何最有效阻止AI冲击和颠覆人类? 邵旭峰AI基本问题解答之(4)

AI发展最重要两个节点-邵旭峰AI基本问题解答之(5)

特朗普推动美国掌控全球、但AI将会掌控世界和人类-邵旭峰解答之6

更详细的讨论,请参阅已全球发行的《人类自救最后期限是2032年-拿什么拯救你》《世界主要社会形态及走向-人类自救时间或只剩不到10年》。

下面是《人类自救最后期限是2032年··》封面和目录,其推理性预断正在被AI超预期的发展态势充实起来,希望提出的社会重构方案能用上,如果用不上,说明人类主导最多到世纪中期、甚至2040年·····







声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
限制川普战争权力的尝试,为何以失败告终?

限制川普战争权力的尝试,为何以失败告终?

寰宇大观察
2026-03-05 16:36:40
别再被史书骗了!太平军曾狂购3000门大炮,李鸿章都怕到睡不着

别再被史书骗了!太平军曾狂购3000门大炮,李鸿章都怕到睡不着

顾史
2026-03-06 07:35:35
最新一批储蓄国债要来了!2026年3月,买20万比存定期强多少?

最新一批储蓄国债要来了!2026年3月,买20万比存定期强多少?

猫叔东山再起
2026-03-06 10:10:06
中国女足形势:净胜球少3个!争头名需赢朝鲜 第2名出线将遇2强敌

中国女足形势:净胜球少3个!争头名需赢朝鲜 第2名出线将遇2强敌

我爱英超
2026-03-06 18:10:29
意外!宿茂臻在中超赛前发布会亮相,仅用一句话就让鲁能球迷动容

意外!宿茂臻在中超赛前发布会亮相,仅用一句话就让鲁能球迷动容

劲爆体坛
2026-03-06 17:30:03
此人是三野名将,终生不服粟裕,晚年又不满上级,惹起矛盾!

此人是三野名将,终生不服粟裕,晚年又不满上级,惹起矛盾!

顾史
2026-03-06 16:53:22
印度人怒了:美军杀害的,是我们的客人!

印度人怒了:美军杀害的,是我们的客人!

环球时报国际
2026-03-05 23:59:46
A股:刚刚,中央五部门联合发声,不出意外,下周将迎来新的转变

A股:刚刚,中央五部门联合发声,不出意外,下周将迎来新的转变

另子维爱读史
2026-03-06 19:12:52
我国“医科大学”排名出炉!南方医大名列第四,温州医大跻身前10

我国“医科大学”排名出炉!南方医大名列第四,温州医大跻身前10

Delete丨CC
2026-03-05 20:01:56
特雷-杨谈首秀:昨晚没怎么睡着,感觉自己第一场打得还可以

特雷-杨谈首秀:昨晚没怎么睡着,感觉自己第一场打得还可以

懂球帝
2026-03-06 13:19:09
越来越多孩子“脑腐”了,玩手机排第二,排第一竟然是……

越来越多孩子“脑腐”了,玩手机排第二,排第一竟然是……

新东方家庭教育
2026-03-03 14:49:40
曝卡里克不受曼联名宿待见原因!斯科尔斯暗讽,唯一盟友被困迪拜

曝卡里克不受曼联名宿待见原因!斯科尔斯暗讽,唯一盟友被困迪拜

罗米的曼联博客
2026-03-06 11:35:24
伊朗最重要的经济命脉之一,阿联酋考虑下手

伊朗最重要的经济命脉之一,阿联酋考虑下手

观察者网
2026-03-06 21:38:10
“每月200元,的确太低了”,白岩松谈农民养老金:让农村老人收入增加一些,也是在帮助他们的孩子

“每月200元,的确太低了”,白岩松谈农民养老金:让农村老人收入增加一些,也是在帮助他们的孩子

大风新闻
2026-03-06 13:13:11
10万亿窟窿!比恒大更坑的民企来了,曾力压许家印,位居第一

10万亿窟窿!比恒大更坑的民企来了,曾力压许家印,位居第一

孤单是寂寞的毒
2026-03-04 15:38:03
哈梅葬礼仪式,中方已派人吊唁,伊朗知恩图报,绝不攻击中国油轮

哈梅葬礼仪式,中方已派人吊唁,伊朗知恩图报,绝不攻击中国油轮

轻拂两袖风尘终
2026-03-06 21:17:20
小米发布国内第一个手机版龙虾,正式开启小范围封测,首批支持小米17系列机型

小米发布国内第一个手机版龙虾,正式开启小范围封测,首批支持小米17系列机型

极目新闻
2026-03-06 13:46:51
速滑世锦赛:宁忠岩500米刷新个人最好成绩,总积分暂列第三

速滑世锦赛:宁忠岩500米刷新个人最好成绩,总积分暂列第三

懂球帝
2026-03-06 10:30:14
史诗级封杀!2000万网红“听风的蚕”彻底凉了

史诗级封杀!2000万网红“听风的蚕”彻底凉了

互联网品牌官
2026-02-12 01:17:23
2026中超首轮裁判选派:王迪执哨揭幕战,2位金哨在列,马宁缺席

2026中超首轮裁判选派:王迪执哨揭幕战,2位金哨在列,马宁缺席

中超伪球迷
2026-03-06 10:40:33
2026-03-06 22:32:49
邵旭峰域 incentive-icons
邵旭峰域
三曲《人类自救最后期限2032》《世界主要社会形态及走向》《中国··》已全球发行。
3219文章数 89597关注度
往期回顾 全部

科技要闻

独家|除夕加班、毫无黑料!林俊旸无奈离场

头条要闻

媒体:成本2万美元 伊朗的"穷人巡航导弹"把美国打心疼

头条要闻

媒体:成本2万美元 伊朗的"穷人巡航导弹"把美国打心疼

体育要闻

跑了24年,他终于成为英超“最长的河”

娱乐要闻

周杰伦社交媒体晒昆凌,夫妻感情稳定

财经要闻

关于经济、股市等,五部门都说了啥?

汽车要闻

逃离ICU,上汽通用“止血”企稳

态度原创

游戏
数码
教育
旅游
军事航空

《失落星船:马拉松》首发Steam峰值8.8万 不及《命运2》首发表现

数码要闻

维咖NUT108铝合金机械键盘发布:套件499元起,成品599元起

教育要闻

高考地理中的冲淤原理

旅游要闻

福星村的市井极具大理特色,但巷子又多又窄,很容易让人迷失方向

军事要闻

伊朗:使用无人机击中美军"林肯"号航母

无障碍浏览 进入关怀版