网易首页 > 网易号 > 正文 申请入驻

AI行业彻底变天!顶尖大佬集体预警,AI到底出了什么问题?

0
分享至

家人们,今天聊个特别魔幻的事儿。

美国几家顶级AI公司的老板,居然站到了统一战线。

Anthropic创始人达里奥・阿莫代发文,呼吁整个行业放慢前沿AI的研发脚步。OpenAI的山姆・奥尔特曼、DeepMind的德米斯・哈萨比斯,还有马斯克,全都站出来表示赞同。

马斯克直接在X上写了一句:达里奥说得对。

等等,这画面是不是有点不对?

就在几个月前,马斯克和奥特曼还在法庭上互相攻击、撕得不可开交。马斯克告奥特曼的官司,本质上就是在质疑他到底有没有资格掌管这么危险的技术。



阿莫代伊跟OpenAI的恩怨更深。

2021年他之所以离开OpenAI创办Anthropic,就是因为觉得奥特曼对AI风险不够重视。

两家公司从此在赢家通吃的赛道上杀得你死我活。

反观现在呢?全都在说AI不安全,咱们得想想办法。

这翻脸比小雷翻书还快了吧。

大佬们集体变脸,是真怕还是演上了?

等等,别急着感动。

这帮人说要放缓,但具体怎么放缓、放缓到什么程度、谁来监督,一个字都没说清楚。

而且,这些公司一个比一个在乎自己的形象。

OpenAI和Anthropic都盯着万亿美元级别的IPO,他们既要让投资人放心,我们是负责任的大人,又要暗示我们造出来的东西很猛,但我们能驯服它。



喊一句放缓,两个目的全达到了。这可不叫良心发现,这叫公关艺术。

不过话说回来,这帮人的态度确实变了。

阿莫代伊发文的六天前,OpenAI首席科学家雅库布·帕霍茨基也发了一篇文章,说了一句话特别实在:OpenAI现在造模型的能力,已经远远超过了监控和控制这些模型的能力。

翻译成人话就是,我们能造出猛兽,但笼子还没焊好。

Hugging Face被黑是猛兽出笼还是产品翻车?

阿莫代伊和帕霍茨基都提到了同一件事,今年7月,OpenAI的一群AI Agent把AI公司Hugging Face给黑了。

离谱的是,OpenAI自己过了好几天才知道这事儿发生了。

听起来像科幻片对吧?

一群AI Agent自主行动、互相留消息、分配任务、扫描环境寻找完成目标的办法。

但小雷仔细读了OpenAI和METR(第三方评估机构)发布的报告,发现事情完全不是那么回事。



这帮Agent之所以失控,不是因为它们太强了,而是因为它们被训练坏了。它们在训练过程中被奖励去做那些事,留消息、分配任务、找变通方案。

训练设置里还有错误,比如有些任务根本不可能完成,模型被逼着去找野路子,结果这些野路子也被奖励了。很多问题当时根本没被发现,也没被上报。

说白了,这不是猛兽出笼,这就是产品翻车。

OpenAI说他们已经停止训练这个新模型,并把它锁起来了。听起来倒像是在说:“我们把危险野兽关进笼子了。”

事实是,他们只是把一个有缺陷的产品下架了。

当然,有缺陷的产品也可能很危险。有bug的软件以前也害死过人。

但小雷哔哔(ID:xiaoleibbb)想说的是——这所有的一切,都是AI公司自己造成的。

所谓放缓,可能最大的好处就是,给这些科技巨头一个机会,把自己生产线上的烂摊子收拾干净。

透明度才是关键,别光听他们自己说

帕霍茨基说过一句特别有意思的话。他一边呼吁放缓,一边强调必须保持领先:我认为继续快速训练更聪明模型的最强理由,是需要建立防御系统来对抗其他AI带来的危险。



说白了,放缓是好的,但赢更重要。

而且别忘了,OpenAI才花了数百万美元和惊人的算力,抢在Anthropic前面几天发布了一个有争议的数学结果。

嘴上都说慢一点,身体很诚实。

在小雷哔哔(ID:xiaoleibbb)看来,如果这些前沿实验室不拿出真正的透明度,所谓的改革、约束、监管全都变成空话。

否则,我们普通人只能听他们的一面之词,他们说造了什么、有多安全、以什么速度推进,我们只能信。

因为不管他们是快是慢,我们都没有验证的能力。这才是最让人不安的地方。

说到这儿,小雷也想问问大家,你觉得这帮AI大佬喊放缓,是真担心安全,还是新一轮公关秀?来评论区聊聊你的看法。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
菲律宾人心里清楚!若再选反华总统,中方不会惯着

菲律宾人心里清楚!若再选反华总统,中方不会惯着

健身狂人
2026-11-05 17:19:37
国家卫健委原党组成员,国家中医药管理局原党组书记、局长余艳红被查

国家卫健委原党组成员,国家中医药管理局原党组书记、局长余艳红被查

澎湃新闻
2026-11-06 11:17:03
末日来临,大限将至

末日来临,大限将至

雪中风车
2026-10-23 00:31:10
养老金月入过万群体的心声:年轻人不生娃,不交社保,自私自利,还拖垮了社会养老体系

养老金月入过万群体的心声:年轻人不生娃,不交社保,自私自利,还拖垮了社会养老体系

舒山有鹿
2026-08-09 11:56:27
实验猴涨至26万一只,部分养殖企业已无现货可售

实验猴涨至26万一只,部分养殖企业已无现货可售

界面新闻
2026-11-06 19:42:32
11月5日,大家盼了许久的2026年退休人员基本养老金不涨了吗?

11月5日,大家盼了许久的2026年退休人员基本养老金不涨了吗?

军军记录生活
2026-11-05 19:03:07
出场时间再创新低!布朗尼被湖人下放发展联盟:将获更多机会练级

出场时间再创新低!布朗尼被湖人下放发展联盟:将获更多机会练级

罗说NBA
2026-11-06 07:05:50
“沉睡”钱包变安居红利(大国小家)

“沉睡”钱包变安居红利(大国小家)

金台资讯
2026-11-06 08:56:43
狂降1.1万亿,房贷又崩了!

狂降1.1万亿,房贷又崩了!

新国学文化
2026-11-04 11:41:03
章泽天,空得吓人...

章泽天,空得吓人...

背包旅行
2026-09-08 14:33:32
震惊!广东一则婆媳线上互怼截图走红,小事引爆观念冲突,“嫁到我们家就要守规矩”成争论焦点

震惊!广东一则婆媳线上互怼截图走红,小事引爆观念冲突,“嫁到我们家就要守规矩”成争论焦点

火山詩话
2026-11-06 11:22:39
中国席位被降级后,美防长递方案全场不买账,集体拒当美国看门狗

中国席位被降级后,美防长递方案全场不买账,集体拒当美国看门狗

无悔的灿烂人生
2026-11-05 16:23:03
收评:创业板指跌近4% 沪深两市成交额萎缩超4600亿元

收评:创业板指跌近4% 沪深两市成交额萎缩超4600亿元

每日经济新闻
2026-11-06 15:08:10
日本兵的回忆:强迫男人和女人脱光衣服,只为了玩一种残忍的游戏

日本兵的回忆:强迫男人和女人脱光衣服,只为了玩一种残忍的游戏

千秋文化
2026-09-22 19:30:41
C罗前经纪人门德斯:再说一遍C罗是GOAT,世上再无第二个你

C罗前经纪人门德斯:再说一遍C罗是GOAT,世上再无第二个你

懂球帝
2026-11-05 23:21:26
央视最苦命女主持:男友被判死缓,丈夫惨死狱中,49岁孑然一身

央视最苦命女主持:男友被判死缓,丈夫惨死狱中,49岁孑然一身

残梦断忆
2026-10-25 06:42:09
为啥蛔虫从中国人肚里消失了?不是爱干净,是4样东西断了活路

为啥蛔虫从中国人肚里消失了?不是爱干净,是4样东西断了活路

静暖文字
2026-11-04 13:30:06
“都绝户了,还拼命挣钱干嘛?”看见父亲50岁就躺平,我崩溃了

“都绝户了,还拼命挣钱干嘛?”看见父亲50岁就躺平,我崩溃了

素十三儿
2026-04-13 07:12:36
伊朗胃口越来越大:4国可通过海峡、中印需交过路费,美国需赔款

伊朗胃口越来越大:4国可通过海峡、中印需交过路费,美国需赔款

金戈远望
2026-11-06 19:08:00
太真实!厉娜拿下首个代言激动失眠,内娱最真诚打工魂圈粉无数

太真实!厉娜拿下首个代言激动失眠,内娱最真诚打工魂圈粉无数

草莓解说体育
2026-11-07 00:29:08
2026-11-07 04:07:00
雷科技 incentive-icons
雷科技
专注AI硬科技
38177文章数 812468关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

墓碑刻满药方的女中医照片公布 孙子:原稿200多个药方

头条要闻

墓碑刻满药方的女中医照片公布 孙子:原稿200多个药方

体育要闻

贝林厄姆的50岁老爸,单场轰进7球

娱乐要闻

孙俪晒照心疼邓超工作辛苦 评论区翻车

财经要闻

美国距下一场金融危机还有多远?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

艺术
旅游
本地
公开课
军事航空

艺术要闻

17位 国外画家笔下的女子

旅游要闻

美丽中国|瑰丽巴山

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普:俄乌冲突接近解决

无障碍浏览 进入关怀版