网易首页 > 网易号 > 正文 申请入驻

图灵奖得主约书亚·本吉奥:AI规划推理能力十年内有望达人类水平

0
分享至

IT之家 7 月 26 日消息,2025 世界 AI 大会今日在上海开幕,图灵奖得主约书亚・本吉奥发表演讲称,前沿模型近期在规划和推理方面取得了显著进展。如果这样的趋势持续,AI 的规划推理能力有望在十年内达到人类的水平。

IT之家从演讲中获悉,如果缺乏坚实的防护措施,强大的 AI 系统可能会放大虚假信息,网络攻击和生物威胁等现有风险。更令人担忧的是,人类恐将失去对自我保护型智能体的控制,这些智能体的认知能力或将“很快超越人类”。

本吉奥认为,科学界仍有相当比例认为这种情况可能发生,就必须保持最高警惕。目前尚无科学验证方法确保 AI 可信且始终遵从人类意图。更糟糕的是,欺骗和自我保护行为在最强模型中似乎更加明显。“随着 AI 的智能水平不断提升,这才是真正令人担忧的地方,因为智能意味着权利。”

本吉奥表示,我们急需在技术和政策层面采取措施,以应对这些风险和其他潜在的问题。理性的政策应鼓励开发不具备危险能力的 AI 开源项目;同时,禁止其他情况下的开发,并对闭源模型实施充分的安全保障措施,包括网络安全和物理安全,确保其不易被犯罪分子、恐怖分子或流氓国家所利用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
贴息都贴不动了,居民贷款负增长创下新高

贴息都贴不动了,居民贷款负增长创下新高

大川东山再起
2026-11-16 21:12:29
被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

发现新西兰
2026-11-16 11:23:23
中国新能源企业在芬建厂涉人口贩运调查

中国新能源企业在芬建厂涉人口贩运调查

凤眼论
2026-11-16 14:23:39
网传贾玲张小斐澳洲领证,竟然收到一片祝福

网传贾玲张小斐澳洲领证,竟然收到一片祝福

起点人文
2026-11-16 21:39:21
争议!19岁亚马尔转发辱华视频,遭质疑删帖,网友:第2个姆巴佩

争议!19岁亚马尔转发辱华视频,遭质疑删帖,网友:第2个姆巴佩

大秦壁虎白话体育
2026-11-16 08:27:29
中日友好医院最出圈的3件套,不少人特意去打卡!确实让人震惊!

中日友好医院最出圈的3件套,不少人特意去打卡!确实让人震惊!

尼古拉斯Nana
2026-11-16 00:06:50
上海1300万多选民投票选举区和乡镇两级人大代表,陈吉宁朱忠明等参加投票

上海1300万多选民投票选举区和乡镇两级人大代表,陈吉宁朱忠明等参加投票

上观新闻
2026-11-16 18:43:28
突发!英特尔陈立武被起诉!四大芯片公司华人CEO,要被逐个清算?

突发!英特尔陈立武被起诉!四大芯片公司华人CEO,要被逐个清算?

起点财经
2026-11-16 15:41:03
林生斌再发声明:“潼臻一生”品牌于案发前创立,基金会未公开募集资金

林生斌再发声明:“潼臻一生”品牌于案发前创立,基金会未公开募集资金

红星新闻
2026-11-17 00:30:23
容祖儿这次演唱会,坐内场看得清楚,她上身亮片外套发型都在线,唯独那条裤子松垮垮堆在鞋面上,走两步就得提一下,唱快歌都不敢迈大步

容祖儿这次演唱会,坐内场看得清楚,她上身亮片外套发型都在线,唯独那条裤子松垮垮堆在鞋面上,走两步就得提一下,唱快歌都不敢迈大步

一盅情怀
2026-11-16 16:01:58
日本参议员硬刚防卫相:你敢说这句话吗?

日本参议员硬刚防卫相:你敢说这句话吗?

环球网资讯
2026-11-16 06:55:05
女子梦到和男同事发生关系,醒来腰酸背痛,报警称被侵犯,查无实据后男同事反诉,法院判她道歉赔500

女子梦到和男同事发生关系,醒来腰酸背痛,报警称被侵犯,查无实据后男同事反诉,法院判她道歉赔500

一丝不苟的法律人
2026-11-16 11:01:14
广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

潇湘晨报
2026-11-16 14:40:21
离开黄仁勋的英伟达:GeForce不会死,但已有工程师选择了离开

离开黄仁勋的英伟达:GeForce不会死,但已有工程师选择了离开

财闻
2026-11-16 13:16:06
太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

金石随笔
2026-11-16 15:02:52
马斯克幽默回复中国网友对他的安保担忧

马斯克幽默回复中国网友对他的安保担忧

瓦砾村夫
2026-11-16 21:16:48
涉嫌严重违纪违法,张旭被查

涉嫌严重违纪违法,张旭被查

中国基金报
2026-11-16 21:13:03
欧国联死亡之组!2强默契出线,德国5-0大胜荷兰,希腊1-0后出局

欧国联死亡之组!2强默契出线,德国5-0大胜荷兰,希腊1-0后出局

体育知多少
2026-11-17 06:02:49
球迷展示侮辱性标语横幅,大喊“出门遛狗请牵绳”,官方通报:刘某某、王某被处以行政拘留五日

球迷展示侮辱性标语横幅,大喊“出门遛狗请牵绳”,官方通报:刘某某、王某被处以行政拘留五日

南方都市报
2026-11-16 10:56:40
疑似用虾滑充当肿瘤?中南大学湘雅医院被爆出史诗级全AI论文

疑似用虾滑充当肿瘤?中南大学湘雅医院被爆出史诗级全AI论文

西虹市闲话
2026-11-16 18:42:42
2026-11-17 07:23:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379641文章数 607735关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

艺术
手机
家居
教育
军事航空

艺术要闻

这些“绝版合影”几乎永不再来,一张比一张震惊,最后一张直接看呆

手机要闻

传苹果20周年纪念版iPhone Pro将采用全新圆润设计 延续iPhone Air风格

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

重磅2026年美国留学官方报告发布!中国留美市场六连跌

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版