网易首页 > 网易号 > 正文 申请入驻

OpenAI前首席科学家伊尔亚创业 安全超级智能会否达成国际共识成考验

0
分享至


经济观察网 记者 钱玉娟 北京时间6月20日,OpenAI公司联合创始人、前首席科学家伊尔亚·苏茨克维通过社交媒体X宣布,创业成立了一家名为Safe SuperIntelligence(安全超级智能,下称“SSI”)的人工智能公司。

伊尔亚还发出了一份个人署名公告,他强调构建安全的超级智能是当下时代最重要的技术问题,已经启动了世界上第一个专注于安全超级智能的实验室,而SSI“只有一个重点、一个目标和一个产品”,那就是安全超级智能。

去年11月,由伊尔亚领导的OpenAI的AI安全团队曾发起一场“政变”,罢免联合创始人萨姆·奥特曼,最终,奥特曼回归,但整个事件却暴露了OpenAI的发展隐忧——对商业化及AI安全性战略难以平衡。

伊尔亚一直担心AGI(通用人工智能)在未来几年实现超级智能后会存在危险,他曾通过一篇博客表达,“巨大的超级智能力量可能导致人类被剥夺权力甚至灭绝”。虽然OpenAI成立之初的使命是构建安全又有益的AGI,但伊尔亚发现团队的目标和方向已经变化,直到今年5月15日,他突然在X上宣布离开OpenAI。

伊尔亚出走后,过去由他带领的OpenAI超级对齐团队成员接连离职。之后,OpenAI选择解散内部关注模型长远安全的团队,并在公司章程中删除了不能用于“军事与战争”的条款。

OpenAI在组织震荡后的动作,引发业内对其AGI研究现状的担忧。在此期间,伊尔亚与投资人、前苹果公司人工智能主管丹尼尔·格罗斯以及OpenAI原研究员丹尼尔·利维联合创业,试图通过人工智能系统中的相关工程突破实现安全。

伊尔亚在公告中称,SSI不会受到管理费用或产品周期的干扰,业务模式意味着安全、保障和进步都不会受到短期商业压力的影响。

但中国社会科学院科学技术和社会研究中心主任段伟文却指出了伊尔亚推进安全超级智能背后的悖论。

“AI大模型在智能上一旦超出人类,它所具有的不可解释性和不透明性,都会让人类对AI大模型的认知与控制变得非常困难。”段伟文认为,伊尔亚此前在OpenAI内部推行的“超级对齐”,具体方法是通过比较低级的大模型去控制更强大的大模型,这件事情本就跟OpenAI的商业化相冲突。

SSI的安全超级智能相关研究,被段伟文视为AI治理的一种服务,这必然依靠各种大模型的数据,假若OpenAI不与SSI合作,其他的大模型厂商会否愿意与SSI合作成为段伟文关注的方面。

从当前大模型在全球范围引发的技术热潮看,各国都在依据各自的技术水平、重视程度对大模型展开研究。段伟文认为,伊尔亚独立推进安全超级智能,格外需要在国际上形成前沿人工智能或超级智能安全研究的共识,只有在此基础上,才有可能将项目推进下去,实现相关数据共享等。

段伟文对伊尔亚突然宣布的创业消息并不意外,但在他看来,SSI未来能否活下去,与国际上是否已经对安全超级智能达成共识息息相关。

版权声明:以上内容为《经济观察报》社原创作品,版权归《经济观察报》社所有。未经《经济观察报》社授权,严禁转载或镜像,否则将依法追究相关行为主体的法律责任。版权合作请致电:【010-60910566-1260】。


钱玉娟经济观察报记者

TMT新闻部记者
长期关注并报道TMT领域的重大事件,时刻保持新闻敏感,发现前沿趋势。擅长企业模式、人物专访及行业深度报道。
重要新闻线索可联系qianyujuan@eeo.com.cn
微信号:EstherQ138279

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
福州这件事,已经不是“仇官”的问题了

福州这件事,已经不是“仇官”的问题了

顾礼先生
2024-07-04 15:07:13
为特朗普挡子弹的那些人:美国特勤局特工真那么不怕死?

为特朗普挡子弹的那些人:美国特勤局特工真那么不怕死?

健身狂人
2024-07-14 17:34:49
为什么西安这么火?应该看作巧合还是政府的宣传?

为什么西安这么火?应该看作巧合还是政府的宣传?

奇葩游戏酱
2024-07-14 21:17:06
真离谱!“提灯定损”尘埃落定,房子不但没拆,还已经开始招租了

真离谱!“提灯定损”尘埃落定,房子不但没拆,还已经开始招租了

boss外传
2024-07-13 11:15:02
女生会接受一个性能力不好的男朋友吗?评论区的回答惊呆上万读者

女生会接受一个性能力不好的男朋友吗?评论区的回答惊呆上万读者

社会潜伏者
2024-05-13 01:15:15
“立院释案”再掀波澜,蓝白携手,赖彻底恼怒,今扬言放飞青鸟!

“立院释案”再掀波澜,蓝白携手,赖彻底恼怒,今扬言放飞青鸟!

阿离家居
2024-07-15 01:25:47
她曾红透中国,自曝被潜规则300次,坠胎9次,上厕所也被导演盯上

她曾红透中国,自曝被潜规则300次,坠胎9次,上厕所也被导演盯上

七公子娱乐
2024-07-12 16:58:59
吴蔚:特朗普有理由后怕,因为安保出了大纰漏

吴蔚:特朗普有理由后怕,因为安保出了大纰漏

直新闻
2024-07-14 22:39:38
司机为何对文联主席下死手?知情人爆料:非临时起意,有两大原因

司机为何对文联主席下死手?知情人爆料:非临时起意,有两大原因

奇葩游戏酱
2024-07-12 05:38:36
触目惊心,一位经历过裸贷的女大学生,告诉你从借贷到肉偿的一切

触目惊心,一位经历过裸贷的女大学生,告诉你从借贷到肉偿的一切

低纬度
2023-10-25 12:49:06
西班牙捧杯!罗德里能否竞争金球奖?战胜贝林厄姆、维尼修斯?

西班牙捧杯!罗德里能否竞争金球奖?战胜贝林厄姆、维尼修斯?

直播吧
2024-07-15 05:50:18
女生私处「小花瓣」长什么样,才正常?

女生私处「小花瓣」长什么样,才正常?

喜马拉雅主播暮霭
2024-06-09 13:13:48
CCTV5直播中国队VS日本,武磊扛大旗,国足盼逆袭,破24年魔咒

CCTV5直播中国队VS日本,武磊扛大旗,国足盼逆袭,破24年魔咒

体坛叨逼叨
2024-07-14 16:22:14
张朝阳低调回河南孟津,居C位和领导聊天像开会,看不出已经60岁

张朝阳低调回河南孟津,居C位和领导聊天像开会,看不出已经60岁

娱圈小愚
2024-07-14 15:56:30
什么?火焰山81℃“祛湿”?一次小半个肚子!一生祛湿广东人心动

什么?火焰山81℃“祛湿”?一次小半个肚子!一生祛湿广东人心动

荷兰豆爱健康
2024-07-14 18:00:32
剧情已开始反转:从F-35B机翼上跳下来的,是美海军陆战队飞行员

剧情已开始反转:从F-35B机翼上跳下来的,是美海军陆战队飞行员

国平视野
2024-07-14 21:41:50
出局第4天,法国队乱了!2巨星退队,真核表不满,齐达内等待接手

出局第4天,法国队乱了!2巨星退队,真核表不满,齐达内等待接手

小火箭爱体育
2024-07-14 15:58:51
喝茶对心脏到底是好是坏?医生苦劝:4种茶,一口都不要喝

喝茶对心脏到底是好是坏?医生苦劝:4种茶,一口都不要喝

宋若讲故事
2023-01-18 21:38:26
7月份山东省退休,养老金还会增加吗?养老金4000元,能涨多少?

7月份山东省退休,养老金还会增加吗?养老金4000元,能涨多少?

暖心人社
2024-07-14 23:48:21
地下人乳交易到底有多变态?躺怀里喝,可包天也可包月

地下人乳交易到底有多变态?躺怀里喝,可包天也可包月

韦一同说
2023-09-21 20:15:56
2024-07-15 06:44:49
经济观察报
经济观察报
最具影响力的财经类周报
92819文章数 1603074关注度
往期回顾 全部

科技要闻

200亿估值后,月之暗面们的考验真正开始

头条要闻

美国总统拜登下令独立审查特朗普遭枪击集会

头条要闻

美国总统拜登下令独立审查特朗普遭枪击集会

体育要闻

英格兰连续2届决赛折戟 凯恩生涯仍0冠

娱乐要闻

黄子韬徐艺洋官宣恋情 晒亲吻照超甜蜜

财经要闻

无人驾驶的士最快5年内大规模商业化

汽车要闻

宾利全新欧陆GT亮相古德伍德 第三季度开始交付

态度原创

教育
亲子
房产
数码
手机

教育要闻

憋了大半年!!!今天终于可以说了!!!|《新传考研名词解释(25修订版)》上线

亲子要闻

共探健康育儿良策,广州市“家校协同育儿健康巡讲”启动!

房产要闻

第七城新政!海南重大突破:非本省居民已购住房,可补办网签!

数码要闻

AMD锐龙AI 9 HX 370迄今最高跑分:终于超越骁龙X Elite

手机要闻

vivo新机开案直曲屏:疑似是iQOO 13和iQOO 13S,期待值颇高

无障碍浏览 进入关怀版