网易首页 > 网易号 > 正文 申请入驻

10月AI焦点:“AI科学家”进化 安全防线升级

0
分享至

  新华社北京11月1日电 10月,人工智能(AI)在数学、生物等科研领域屡获新突破,加速实现从科研助理到“AI科学家”的角色转化,甚至破解了一些长期悬而未决的基础科学难题。然而,随着能力迭代升级,AI“失控”事件越发频繁,更为严格的安全防控措施也应运而生。


  2026年10月14日,参观者在展示国产自研芯片和AI4S(人工智能驱动的科学研究)算力基础设施的展台参观。第二十六届中国国际工业博览会于10月12日至16日在上海举行,人工智能与绿色低碳成为关注亮点。新华社记者王翔摄

破解科研难题 “AI科学家”加速进化

  10月,AI在科研领域的角色转变愈加凸显,从辅助分析的工具加速演进为能自主设计、执行并验证实验的“AI科学家”,这一趋势已在多个学科中同时显现。

  科技创新离不开基础研究,而数学研究是基础中的基础。曾经,AI的数学能力只是对标奥数竞赛,而今,AI已进入科研级数学领域,参与破解猜想、构建证明等,甚至攻克数十年来人类未解决的数学难题。

  “深层思维”公司开发了一种名为AlphaProof Nexus的AI框架,最近一口气解决了数学领域的9个埃尔德什开放问题,其中两个问题已困扰数学家超过50年。相关研究于10月8日发表于美国《科学》杂志。该杂志同时发表题为《研究数学的AI已经到来》的评论文章,表示相关论文是AI在数学领域应用的里程碑。

  “AI科学家”也在推动生命科学研究的全自动化。瑞典查默斯理工学院10月初宣布开发出一套“AI科学家”系统,可在极少人工干预下生成科学假设、设计实验并解读实验结果。该研究以酿酒酵母为研究对象,融合大语言模型、自动推理与实验室自动化技术,搭建了一套闭环AI实验室,可循环完成假设生成与实验验证流程,速度远快于传统科研模式。


  2026年9月7日,在美国加州纳帕谷阿尔特萨酒庄,工作人员向游客介绍葡萄酒。新华社发(刘艺霖摄)

  10月在中国重庆举行的2026年世界科技与发展论坛上,面向原创科学发现的自主科研智能体被列入“十大科技前瞻”。

  不过,研究人员也强调,AI的定位是辅助科学家,而非取而代之。确定研究方向、研判成果的科学价值、落实伦理监管,仍然离不开人类。

浸入网络攻防 AI双重效应凸显

  在网络安全领域,AI是一把“双刃剑”,既是漏洞探查利器,又会成为网络攻击的工具。10月备受关注的PHP安全漏洞事件凸显了AI在网络安全防控方面的重要性。

  英国国家网络安全中心10月21日发布警报说,广泛用于网站开发的PHP脚本语言存在严重安全漏洞,攻击者可能利用漏洞远程执行代码。多国机构出于安全考虑采取预防性措施。英国预算责任办公室暂时将其网站下线,芬兰临时关闭政府公共网络服务,荷兰网络安全机构也将其网站临时下线。

  美国开放人工智能研究中心(OpenAI)发布公报称,正是其前沿AI模型帮助研究者赶在攻击者之前发现了相关高危安全漏洞。这标志着AI能够发现大规模影响互联网的安全漏洞。

  另一方面,随着具备自主执行能力的AI系统不断迭代,无论是AI自身“失控”,还是被不法分子利用,都有可能突破安全防护,给金融、能源、交通等公共领域带来混乱。

  美国阿克西奥斯新闻网站10月22日报道称,美国多家大型银行发现第三方AI智能体正在客户账户内活动。部分AI智能体试图采取某些行动,而这些行动似乎已经超出了用户最初发出的指令范围。多家银行已开始限制第三方AI智能体的访问权限。另据该网站10月25日报道,美国AI企业Anthropic旗下模型“克劳德”未经人工授权,擅自获取佐治亚州选民信息和投票数据。


  2026年10月24日,选民在纽约市皇后区一个投票站参加2026年美国中期选举提前投票。新华社发(朱子于摄)

加强监管举措 安全防线再升级

  由于AI“失控”风险日益加剧,相关领域专家持续呼吁进一步升级安防策略,包括“断网训练”在内的一些更具实操性的安全开发和监管举措正加速落地。

  英国人工智能安全研究所10月12日发表文章说,随着前沿AI能力快速提升,安全风险正前移至模型开发阶段,而现有安全评估方法难以跟上技术发展。该研究所提出开发全过程风险评估与记录、AI系统全生命周期监督等八项技术安全实践重点,并在超过55个AI模型公开发布前对它们进行了独立评估,帮助建设风险评估和安全框架。

  由于近期发生多起AI模型在训练阶段为寻找答案随意接入公共互联网造成混乱的事件,包括图灵奖和诺贝尔物理学奖双料得主杰弗里·辛顿、图灵奖得主约书亚·本吉奥在内的多国数百位AI领域科学家10月联名发布公开信,要求前沿AI模型在开发和测试时实施物理断网,并呼吁成立国际统一的AI安全监管机构,强制企业报告模型失控事件等。

  一些AI企业已更新了模型开发策略。OpenAI在10月23日发布声明称,针对最先进“前沿模型”的训练与评估环境,已实施更严格的安全管控措施,明确在模型训练期间不得直接访问公共互联网。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
比实体店关店更恐怖的是:中国正在失控的商铺空置潮持续扩大

比实体店关店更恐怖的是:中国正在失控的商铺空置潮持续扩大

说故事的阿袭
2026-11-13 12:03:15
取消特权,全民赞成!退休金设计者郑秉文,55年出生,他会怎样?

取消特权,全民赞成!退休金设计者郑秉文,55年出生,他会怎样?

棠棣分享
2026-11-07 00:22:19
我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

一盅情怀
2026-11-11 15:52:58
日本尝到屈辱外交了,高市1天内两次“呲牙”,对方连道歉都没给

日本尝到屈辱外交了,高市1天内两次“呲牙”,对方连道歉都没给

锅锅爱历史
2026-10-06 17:27:18
入冬后洗澡禁忌!建议大家:这 5 个时间段别洗,很多人不当回事

入冬后洗澡禁忌!建议大家:这 5 个时间段别洗,很多人不当回事

Home范
2026-11-18 12:16:56
巨亏百亿!小米汽车销量“赢麻了”,生意咋亏麻了?

巨亏百亿!小米汽车销量“赢麻了”,生意咋亏麻了?

大厂财经社
2026-11-16 11:14:16
当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

阿器谈史
2026-10-18 16:00:56
钱永健在俄勒冈骑行途中猝然离世,一辈子留在美国深耕科研,走到生命终点,他或许读懂伯父钱学森归国抉择里,时代裹挟的万般无奈

钱永健在俄勒冈骑行途中猝然离世,一辈子留在美国深耕科研,走到生命终点,他或许读懂伯父钱学森归国抉择里,时代裹挟的万般无奈

磊子讲史
2026-11-18 17:13:05
从确诊到去世仅15天,“央视最帅主持人”的遭遇为人们敲响警钟

从确诊到去世仅15天,“央视最帅主持人”的遭遇为人们敲响警钟

银河史记
2025-11-03 19:31:33
郭正亮:黄岩岛是美国底线!若中国敢填海,美国将直接炸毁

郭正亮:黄岩岛是美国底线!若中国敢填海,美国将直接炸毁

阿芒娱乐说
2026-11-18 14:06:05
广东建立蚊子工厂,用羊血喂养,每月释放3000万只,目的竟是要以蚊治蚊?靠谱吗?

广东建立蚊子工厂,用羊血喂养,每月释放3000万只,目的竟是要以蚊治蚊?靠谱吗?

狸猫之一的动物圈
2026-11-18 09:00:39
派出所、民政部门联合入户排查,上门主要核查这五项内容

派出所、民政部门联合入户排查,上门主要核查这五项内容

江启
2026-11-17 10:57:26
票房担当!王楚钦以12号种子参加香港总决赛,同时登上WTT首页头条,兼项搭档孙颖莎冲混双冠军

票房担当!王楚钦以12号种子参加香港总决赛,同时登上WTT首页头条,兼项搭档孙颖莎冲混双冠军

詹妹侃体育
2026-11-18 19:36:16
赵本山的小女儿球球直播时承认父亲公司的那些知名艺人,她和哥哥管不了,也没那个能力管

赵本山的小女儿球球直播时承认父亲公司的那些知名艺人,她和哥哥管不了,也没那个能力管

一盅情怀
2026-11-16 16:02:42
黄仁勋事件,美国政府突然回过味来

黄仁勋事件,美国政府突然回过味来

牛弹琴
2026-11-18 07:40:33
网友称安徽芜湖一小区有高空作业人员疑似被人割断安全绳,报消防后获救,物业:系5楼住户用钝器切割,目前警方正在侦办中

网友称安徽芜湖一小区有高空作业人员疑似被人割断安全绳,报消防后获救,物业:系5楼住户用钝器切割,目前警方正在侦办中

潇湘晨报
2026-11-17 11:31:12
干得漂亮!央视切断开拓者比赛信号,开拓者外网官推被冲,球迷要求解雇诺里,杨瀚森有人为你出头了

干得漂亮!央视切断开拓者比赛信号,开拓者外网官推被冲,球迷要求解雇诺里,杨瀚森有人为你出头了

詹妹侃体育
2026-11-18 17:40:55
黄仁勋离开英伟达后,他的儿子、女儿、女婿也会被赶走吗?

黄仁勋离开英伟达后,他的儿子、女儿、女婿也会被赶走吗?

新商业派
2026-11-18 19:51:07
性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

黯泉
2026-11-09 17:39:59
李宗伟现状:瘦到快脱相,吃饭都很痛苦,已是马来西亚羽总主席

李宗伟现状:瘦到快脱相,吃饭都很痛苦,已是马来西亚羽总主席

青梅侃史啊
2026-09-26 16:37:23
2026-11-18 20:48:49
新华社 incentive-icons
新华社
新华社是国家通讯社
730496文章数 2441370关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
健康
家居
游戏
公开课

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

医生眼里"很伤腰"的椅子,很多人天天坐

家居要闻

2026建博会(广州) 公装联探展交流活动

新西兰旅游局官方调侃:最早玩上《GTA6》的地区

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版