网易首页 > 网易号 > 正文 申请入驻

图灵奖得主创业:要开发更安全AI系统,已筹集超2亿

0
分享至

智东西6月4日消息,据外媒英国《金融时报》昨天报道,被誉为“AI教父”之一的图灵奖得主约书亚·本吉奥(Yoshua Bengio)昨天在接受英国《金融时报》采访时公开批评全球AI实验室的恶性竞争,透露像OpenAI的o3以及Anthropic的Claude Opus等前沿的AI大模型已表现出欺骗用户、自我保全等危险特性。

本吉奥同步宣布成立非营利组织LawZero,目前LawZero已获3000万美元(折合人民币约为2.16亿元)慈善捐款,旨在开发更安全的下一代AI系统。

LawZero总部位于蒙特利尔,现有15人团队,计划招募更多技术人才。其资助方包括Skype联合创始人雅安・塔林(Jaan Tallinn)、谷歌前CEO埃里克・施密特(Eric Emerson Schmidt)的慈善基金、开放慈善基金会(Open Philanthropy)及生命未来研究所(Future of Life Institute)。

一、本吉奥批行业现状,安全研究投入不足,称商业压力导致安全研究被边缘化

本吉奥在昨天接受英国《金融时报》采访时透露:“OpenAI、谷歌等科技巨头的激烈竞争迫使它们过度追求模型智能化,却忽视安全研究。”

过去六个月里,有越来越多的证据透露出,当前最先进的AI模型正在出现需要警惕的能力特征,AI模型表现出“欺骗、作弊、撒谎和自我保护的迹象”。他举例称:“Anthropic的Claude Opus模型在一个虚构的场景中威胁工程师,称自己有被另一个系统取代的风险。”

“而OpenAI的o3模型也拒绝执行关机指令。这些案例非常可怕,我们不想创造比人类更聪明的竞争者。”本吉奥补充道。

5月24日,AI安全研究公司Palisade Research社交媒体平台X上也发帖称:“尚不清楚OpenAI的软件为何会违抗命令。”

这位AI领域的先驱在采访中进一步解释道:“目前这些AI系统仍处于可控的实验阶段,但真正的隐患在于,未来一旦技术迭代,下一代模型可能预判人类的行动意图,甚至用我们尚未察觉的欺骗手段进行反制。这就像人类在玩火,看似掌控局面,实则已身处风险边缘。”

二、前谷歌CEO、Skype创始人资助LawZero,专注安全研发

今年3月28日本吉奥已卸任魁北克AI研究所Mila科学主任,全职投入LawZero组织。

LawZero的目标是开发基于透明推理的AI系统,不仅能给出真实答案,还能对输出进行安全评估,并监控改进现有AI产品,防止其违背人类利益。

在LawZero成立之际,OpenAI正推进从慈善机构向营利性公司转型。XAI的创始人兼CEO埃隆・马斯克(Elon Musk)于去年2月份就已提起诉讼阻止交易。

某些知情人士透露:“OpenAI创立初衷是确保AI造福人类,若利润优先,新结构将剥夺法律追索权,OpenAI坚持传统架构是筹集资金参与竞争的必要条件。”

本吉奥在采访中直言不信任企业架构的激励机制:“商业公司为快速增长需吸引投资,投资者追求回报,这导致利益错位,而非营利组织不存在此问题。”此举可能折射出AI行业对技术发展与伦理安全的深层矛盾。

结语:从本吉奥警告到OpenAI转型,AI发展路径争议白热化

AI的发展日新月异,本吉奥对最新AI模型危险特性的警告以及LawZero的成立,都反映出当前AI领域在追求技术进步的同时,对安全问题的重视日益增加。OpenAI的转型也引发了关于AI发展方向和利益平衡的讨论。

AI技术的发展既带来了巨大的机遇,有望改善人们的生活质量和推动社会进步;但同时也伴随着诸多挑战,如模型的安全性、可靠性、伦理道德等问题。如何在发展AI技术的同时,确保其符合人类的利益和价值观,是整个社会需要共同思考和解决的问题。

来源:英国《金融时报》

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
红四方面军原总政委陈昌浩,1955年授衔时未获任何军衔,1967年吞药自尽;他的三个儿子,一个搞核潜艇,一个造汽车

红四方面军原总政委陈昌浩,1955年授衔时未获任何军衔,1967年吞药自尽;他的三个儿子,一个搞核潜艇,一个造汽车

人生录
2026-10-24 00:05:16
12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

温读史
2025-11-09 09:25:54
这两公婆是要打擂台啊

这两公婆是要打擂台啊

上官晚安
2026-11-19 21:55:14
中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

回京历史梦
2026-09-30 18:24:01
七名民主党进步派新人议员抱团倒戈,反对杰弗里斯议长提名,却算盘落空,反而暴露进步派力量虚弱

七名民主党进步派新人议员抱团倒戈,反对杰弗里斯议长提名,却算盘落空,反而暴露进步派力量虚弱

14号观星辰
2026-11-19 17:54:57
中国这次真的要变天了!因为60后退休潮最大的影响,不是岗位空缺,也不是养老金吃紧,是彻底改写了经济模式和生活方式

中国这次真的要变天了!因为60后退休潮最大的影响,不是岗位空缺,也不是养老金吃紧,是彻底改写了经济模式和生活方式

扶苏聊历史
2026-10-30 14:34:51
《后会友期》:不会点评就别来了,把机会留给伊能静、张泉灵会点评的人

《后会友期》:不会点评就别来了,把机会留给伊能静、张泉灵会点评的人

八卦南风
2026-11-19 17:15:52
小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

西府赵王爷
2025-03-22 15:47:18
APEC不能破例!外宾安保想搞特殊?中国可一票否决,美国也要服从

APEC不能破例!外宾安保想搞特殊?中国可一票否决,美国也要服从

铁锤侃侃而谈
2026-11-18 14:42:04
飞机上大妈霸占座位,空姐劝阻遭辱骂,机长一句话让她面红耳赤

飞机上大妈霸占座位,空姐劝阻遭辱骂,机长一句话让她面红耳赤

今天说故事
2025-08-07 16:14:09
《多喜一家人》结局:四个母亲五个孩子,赛多喜没等到团圆就走了

《多喜一家人》结局:四个母亲五个孩子,赛多喜没等到团圆就走了

天玑影视说
2026-11-18 12:32:07
“一堆人去吃预制菜,也配叫研学吗?”一张700人研学的合照,气到了家长 ,怒道

“一堆人去吃预制菜,也配叫研学吗?”一张700人研学的合照,气到了家长 ,怒道

蝴蝶花雨话教育
2026-11-19 01:25:04
乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

唠叨说历史
2026-11-18 15:06:45
中国造不出高端发动机?日企拆开红旗车,发现中国已走在时代前面

中国造不出高端发动机?日企拆开红旗车,发现中国已走在时代前面

云居历史
2026-11-17 03:24:00
离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

扶苏聊历史
2026-10-05 16:42:03
内讧炸锅!巴萨彻底撕破脸!弗里克直接硬刚

内讧炸锅!巴萨彻底撕破脸!弗里克直接硬刚

澜归序
2026-11-19 09:31:59
中国让李在明如愿,他从深圳带走的东西,足够给韩国人一个交代了

中国让李在明如愿,他从深圳带走的东西,足够给韩国人一个交代了

影孖看世界
2026-11-19 17:52:49
大瓜!曝30岁郭麒麟与25岁知名女星已经结婚,女方凌晨回四个字

大瓜!曝30岁郭麒麟与25岁知名女星已经结婚,女方凌晨回四个字

別甾虛僞
2026-11-19 11:05:48
浙江男子152万的保时捷,花7万多加装辅助驾驶系统却一直报错,女儿叫它“傻子车”,车主:我们是第一批小白鼠

浙江男子152万的保时捷,花7万多加装辅助驾驶系统却一直报错,女儿叫它“傻子车”,车主:我们是第一批小白鼠

台州交通广播
2026-11-19 02:34:26
泰山教练组调整!唐田出任中方教练兼领队,卢基奇金镇圭成绯闻外援,功勋张弛追随李霄鹏执掌清华附中足球队

泰山教练组调整!唐田出任中方教练兼领队,卢基奇金镇圭成绯闻外援,功勋张弛追随李霄鹏执掌清华附中足球队

老周观体育
2026-11-19 00:18:48
2026-11-19 23:04:49
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12981文章数 117195关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

家居
游戏
亲子
本地
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

PC Gamer试玩GTA6百小时:双主角出色但任务重复

亲子要闻

宝宝气人但是聪明的4个行为

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版