网易首页 > 网易号 > 正文 申请入驻

图灵奖得主创业:要开发更安全AI系统,已筹集超2亿

0
分享至

智东西6月4日消息,据外媒英国《金融时报》昨天报道,被誉为“AI教父”之一的图灵奖得主约书亚·本吉奥(Yoshua Bengio)昨天在接受英国《金融时报》采访时公开批评全球AI实验室的恶性竞争,透露像OpenAI的o3以及Anthropic的Claude Opus等前沿的AI大模型已表现出欺骗用户、自我保全等危险特性。

本吉奥同步宣布成立非营利组织LawZero,目前LawZero已获3000万美元(折合人民币约为2.16亿元)慈善捐款,旨在开发更安全的下一代AI系统。

LawZero总部位于蒙特利尔,现有15人团队,计划招募更多技术人才。其资助方包括Skype联合创始人雅安・塔林(Jaan Tallinn)、谷歌前CEO埃里克・施密特(Eric Emerson Schmidt)的慈善基金、开放慈善基金会(Open Philanthropy)及生命未来研究所(Future of Life Institute)。

一、本吉奥批行业现状,安全研究投入不足,称商业压力导致安全研究被边缘化

本吉奥在昨天接受英国《金融时报》采访时透露:“OpenAI、谷歌等科技巨头的激烈竞争迫使它们过度追求模型智能化,却忽视安全研究。”

过去六个月里,有越来越多的证据透露出,当前最先进的AI模型正在出现需要警惕的能力特征,AI模型表现出“欺骗、作弊、撒谎和自我保护的迹象”。他举例称:“Anthropic的Claude Opus模型在一个虚构的场景中威胁工程师,称自己有被另一个系统取代的风险。”

“而OpenAI的o3模型也拒绝执行关机指令。这些案例非常可怕,我们不想创造比人类更聪明的竞争者。”本吉奥补充道。

5月24日,AI安全研究公司Palisade Research社交媒体平台X上也发帖称:“尚不清楚OpenAI的软件为何会违抗命令。”

这位AI领域的先驱在采访中进一步解释道:“目前这些AI系统仍处于可控的实验阶段,但真正的隐患在于,未来一旦技术迭代,下一代模型可能预判人类的行动意图,甚至用我们尚未察觉的欺骗手段进行反制。这就像人类在玩火,看似掌控局面,实则已身处风险边缘。”

二、前谷歌CEO、Skype创始人资助LawZero,专注安全研发

今年3月28日本吉奥已卸任魁北克AI研究所Mila科学主任,全职投入LawZero组织。

LawZero的目标是开发基于透明推理的AI系统,不仅能给出真实答案,还能对输出进行安全评估,并监控改进现有AI产品,防止其违背人类利益。

在LawZero成立之际,OpenAI正推进从慈善机构向营利性公司转型。XAI的创始人兼CEO埃隆・马斯克(Elon Musk)于去年2月份就已提起诉讼阻止交易。

某些知情人士透露:“OpenAI创立初衷是确保AI造福人类,若利润优先,新结构将剥夺法律追索权,OpenAI坚持传统架构是筹集资金参与竞争的必要条件。”

本吉奥在采访中直言不信任企业架构的激励机制:“商业公司为快速增长需吸引投资,投资者追求回报,这导致利益错位,而非营利组织不存在此问题。”此举可能折射出AI行业对技术发展与伦理安全的深层矛盾。

结语:从本吉奥警告到OpenAI转型,AI发展路径争议白热化

AI的发展日新月异,本吉奥对最新AI模型危险特性的警告以及LawZero的成立,都反映出当前AI领域在追求技术进步的同时,对安全问题的重视日益增加。OpenAI的转型也引发了关于AI发展方向和利益平衡的讨论。

AI技术的发展既带来了巨大的机遇,有望改善人们的生活质量和推动社会进步;但同时也伴随着诸多挑战,如模型的安全性、可靠性、伦理道德等问题。如何在发展AI技术的同时,确保其符合人类的利益和价值观,是整个社会需要共同思考和解决的问题。

来源:英国《金融时报》

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人民日报发文预警!新型黑恶势力,早已换上合法外衣,更难察觉

人民日报发文预警!新型黑恶势力,早已换上合法外衣,更难察觉

北纬的咖啡豆
2026-11-18 09:44:39
布朗:很多人高估自己!现在联盟只有这两人能称为超级巨星!

布朗:很多人高估自己!现在联盟只有这两人能称为超级巨星!

林子说事
2026-11-19 03:09:40
一个家庭爬出底层的最快方式:复制范仲淹

一个家庭爬出底层的最快方式:复制范仲淹

格上基金
2026-11-08 20:55:34
唏嘘!太阳宫多小区90天零成交!

唏嘘!太阳宫多小区90天零成交!

太阳宫邻友圈
2026-11-18 18:15:40
别再吹霍启山多尊重郭晶晶了,那未必是尊重,更像降维打击,华尔街精英分寸感拉满

别再吹霍启山多尊重郭晶晶了,那未必是尊重,更像降维打击,华尔街精英分寸感拉满

农村黄煮任
2026-11-17 20:25:55
16GB+1TB!华为突然官宣:11月24日,正式发布!

16GB+1TB!华为突然官宣:11月24日,正式发布!

科技堡垒
2026-11-17 08:00:40
哈萨克斯坦也没想到,跟着中国混来混去,结果也混成了个“霸主”

哈萨克斯坦也没想到,跟着中国混来混去,结果也混成了个“霸主”

共工之锚
2026-11-17 00:29:44
妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

胖胖侃咖
2025-04-13 08:00:08
换人!恩比德提出申请!要开启新布局了!

换人!恩比德提出申请!要开启新布局了!

柚子说球
2026-11-19 01:36:21
美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

极目新闻
2026-11-18 07:16:44
美论坛:孟买已领先上海30年,可为何中国人仍觉得印度落后?

美论坛:孟买已领先上海30年,可为何中国人仍觉得印度落后?

有牙的兔纸
2026-11-19 08:34:35
CBA要提前大结局,NBA超级外援加入黑马球队,挑翻上海北京

CBA要提前大结局,NBA超级外援加入黑马球队,挑翻上海北京

宗介说体育
2026-11-18 15:02:35
哈登里程碑米神空砍34分,探花郎18+8+5+4,灰熊擒骑士终结8连败

哈登里程碑米神空砍34分,探花郎18+8+5+4,灰熊擒骑士终结8连败

钉钉陌上花开
2026-11-19 10:40:27
乌克兰为什么选择这时候炸克里米亚大桥?

乌克兰为什么选择这时候炸克里米亚大桥?

名人苟或
2026-11-18 15:31:50
“慰安椅”根本不是椅子,是把每个年轻姑娘活生生碾碎的吃人机器

“慰安椅”根本不是椅子,是把每个年轻姑娘活生生碾碎的吃人机器

千秋文化
2026-09-22 19:32:48
杨鸣:英博夺冠山东人民帮了很大的忙,山东有活动我义不容辞

杨鸣:英博夺冠山东人民帮了很大的忙,山东有活动我义不容辞

懂球帝
2026-11-19 07:00:20
快被父母的有钱程度震惊!网友:我的父母什么时候告诉我是富二代

快被父母的有钱程度震惊!网友:我的父母什么时候告诉我是富二代

另子维爱读史
2026-11-13 23:00:23
董路:国足若踢日本至少得输6个!邵佳一应该请我去国足好好调教防守

董路:国足若踢日本至少得输6个!邵佳一应该请我去国足好好调教防守

念洲
2026-11-19 06:46:20
国乒王牌名将再退赛!王皓无奈批准,王楚钦带团夺金难上加难了

国乒王牌名将再退赛!王皓无奈批准,王楚钦带团夺金难上加难了

曹说体育
2026-11-18 16:17:30
华人返美注意!海关最新提醒:茶叶、咖啡、调味料都要申报,漏报恐挨罚

华人返美注意!海关最新提醒:茶叶、咖啡、调味料都要申报,漏报恐挨罚

北美省钱快报
2026-11-18 04:36:25
2026-11-19 13:35:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12971文章数 117195关注度
往期回顾 全部

科技要闻

OPPO Reno17:实况才是让我留下来的理由

头条要闻

男子19.6万元卖出一块二手劳力士 不料14岁女孩来取货

头条要闻

男子19.6万元卖出一块二手劳力士 不料14岁女孩来取货

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

稳坐春晚前排20年,黄晓明都巴结她

财经要闻

北京环球影城,亏损难题待解

汽车要闻

三排都不将就,还有云辇和智能四驱,方程豹钛9想通了什么?

态度原创

房产
游戏
时尚
公开课
军事航空

房产要闻

2.5亿!丁村侨中,新动作来了!

《GTA6》超离谱BUG:全员橡皮人!评论区笑翻

Kendall都开始盛装了,谁还在追求松弛感?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

“华盛顿”号航空母舰离开中东地区

无障碍浏览 进入关怀版