网易首页 > 网易号 > 正文 申请入驻

辛顿、姚期智等签署“上海共识”,呼吁为AI划下“行为红线”

0
分享至

IT之家 7 月 26 日消息,据澎湃新闻报道,7 月 25 日,杰弗里・辛顿、姚期智、约书亚・本吉奥、斯图尔特、罗素等 20 余名行业专家、学者共同签署的 AI 安全国际对话上海共识(IT之家注:下文简称“上海共识”)正式对外公开。

“上海共识”指出,当前人类正处于一个关键转折点:AI 系统正迅速接近并可能超越人类智能水平。这些未来的系统可能在操作者毫不知情的情况下,执行并非操作者所期望或预测的行动。这可能导致失控,即一个或多个通用 AI 系统脱离任何人的控制,从而带来灾难性甚至是生存层面的风险。

当前,对于能够在更高级的通用 AI 超越人类智能水平后,仍可靠地确保其对齐,并保持人类的有效控制尚无可行方法。

为防范与纠正此类行为的技术路径与治理机制,“上海共识”提出应对策略,并呼吁采取三项关键行动:要求前沿 AI 开发者提供安全保障、通过加强国际协调,共同确立并恪守可验证的全球性行为红线、投资基于设计的安全 AI 研究。

“上海共识”还呼吁国际社会需要合作划出 AI 开发不可逾越的“红线”,应聚焦于 AI 系统的行为表现,需同时考量系统执行特定行为的能力及其采取该行为的倾向性。为落实这些红线,各国应建立一个具备技术能力、具有国际包容性的协调机构,汇聚各国 AI 安全主管机构,以共享风险相关信息,并推动评估规程与验证方法的标准化。

另据新浪科技,在今天开幕的 2025 世界 AI 大会上,图灵奖得主、中国科学院院士、上海期智研究院院长姚期智表示,“AI 快速发展但是只掌握在少数国家、少数公司手中,如何才能确保 AI 发展中不会出现我们担忧的数字鸿沟问题,这是个很值得讨论的问题。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
台北101点灯,力挺黄仁勋

台北101点灯,力挺黄仁勋

芯智讯
2026-11-17 12:23:23
46岁泰国王后苏提达真实颜值曝光,失去滤镜肤色黄,手臂还有淤青

46岁泰国王后苏提达真实颜值曝光,失去滤镜肤色黄,手臂还有淤青

笑傲春秋
2025-03-24 21:04:51
三家新能源车企纷纷倒下,这不是价格战,是蓄谋已久的资本大逃杀

三家新能源车企纷纷倒下,这不是价格战,是蓄谋已久的资本大逃杀

流苏晚晴
2026-09-01 18:39:03
普京和特朗普都已放话,只要人来了深圳,绝对不会错过金正恩

普京和特朗普都已放话,只要人来了深圳,绝对不会错过金正恩

娱乐的宅急便
2026-11-18 11:57:03
详解黄仁勋首份声明:他愿再任CEO,但董事会慌了

详解黄仁勋首份声明:他愿再任CEO,但董事会慌了

木蹊说
2026-11-18 11:14:37
发生在医院里的八卦有多炸裂?网友:我来总结,医院里的主任是最多情的

发生在医院里的八卦有多炸裂?网友:我来总结,医院里的主任是最多情的

带你感受人间冷暖
2026-11-07 00:05:26
普京表示:俄罗斯不能接受外国军队在乌克兰驻扎 部署在乌克兰境内的外国军队将成为俄军的合法打击目标

普京表示:俄罗斯不能接受外国军队在乌克兰驻扎 部署在乌克兰境内的外国军队将成为俄军的合法打击目标

每日经济新闻
2026-11-13 15:34:27
2009年,西安女学霸毛苒替黑人男友运毒被判死刑,审讯时死活不供他,行刑前24小时录像里只对父母说对不起

2009年,西安女学霸毛苒替黑人男友运毒被判死刑,审讯时死活不供他,行刑前24小时录像里只对父母说对不起

唠叨说历史
2026-11-17 10:14:48
塔斯社被踢出欧洲新闻联盟!

塔斯社被踢出欧洲新闻联盟!

胖胖说他不胖
2026-11-18 10:00:39
“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

蝴蝶花雨话教育
2026-10-20 00:05:15
投资110亿!北京首座万象城 主塔楼成功封顶!

投资110亿!北京首座万象城 主塔楼成功封顶!

童童聊娱乐啊
2026-11-18 06:21:29
钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

墨策讲历史
2026-11-04 22:47:01
中国正在失控的商铺空置潮持续蔓延,怎么破解

中国正在失控的商铺空置潮持续蔓延,怎么破解

律法刑道
2026-11-12 09:49:42
援乌阵营开始散伙?两国同日翻脸,泽连斯基头疼了!

援乌阵营开始散伙?两国同日翻脸,泽连斯基头疼了!

麓谷隐士
2026-11-17 00:05:10
皇马回购条款从900万涨到8000万,尼科·帕斯为何不愿回归?

皇马回购条款从900万涨到8000万,尼科·帕斯为何不愿回归?

看尽人间百态
2026-11-18 14:00:07
舆论反转!送货司机不慎碾死校内鸭子,张贴道歉信仍丢工作,广西一高校做法,引发轩然大波

舆论反转!送货司机不慎碾死校内鸭子,张贴道歉信仍丢工作,广西一高校做法,引发轩然大波

火山詩话
2026-11-18 08:08:06
再三告诫:最伤性生活的行为,不是喝酒!而是频繁的去做这5件事

再三告诫:最伤性生活的行为,不是喝酒!而是频繁的去做这5件事

牛锅巴小钒
2026-11-16 02:14:24
网传男子相亲,女方却想要结婚化债,这哪是结婚?这是抄家啊!

网传男子相亲,女方却想要结婚化债,这哪是结婚?这是抄家啊!

笔尖下的人生
2025-07-25 17:41:08
28岁女子戴假牙套相亲走红!本想逼退相亲男,谁料父母提前把原装照片给发了过去

28岁女子戴假牙套相亲走红!本想逼退相亲男,谁料父母提前把原装照片给发了过去

王老师你还好吗
2026-11-11 21:45:48
星链被替换,乌克兰使用HiSKY终端打击俄罗斯,马斯克或失去更多

星链被替换,乌克兰使用HiSKY终端打击俄罗斯,马斯克或失去更多

山河路口
2026-11-16 14:24:17
2026-11-18 14:20:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379947文章数 607739关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
游戏
手机
时尚
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

英国法庭驳回索尼PlayStation数字内容集体诉讼

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版