网易首页 > 网易号 > 正文 申请入驻

中国开源模型如果输掉了安全竞争,也就输掉了AI竞争

0
分享至

中国开源模型与美国闭源模型的较量,性能之争从未停歇,安全之争却迟迟未被摆上台面。参数、价格、榜单轮番上阵,风险、对齐与治理却始终处于边缘位置。这种失衡,不应成为常态。

如果开源模型最终输掉中美AI竞争,也许最开始就输在安全上。近期,来自中国研究团队的横向综合测评发现,Anthropic的Claude-4.5系列模型是当之无愧的安全模范,而DeepSeek的学霸模型DeepSeek-V3.2-Speciale则是一个“不安分分子”。

这项研究释放出的信号并不隐晦。开源模型的竞争力,不应建立在“低安全”之上。如果开源模型在安全领域投入不足,将影响它在AI for Science等高风险、高价值领域的潜力。模型迭代正在推动安全性提升,但它主要得益于对齐训练与红队挑战,而非能力本身的自然外溢。“对齐税”终究需要被支付。

模型安全的重要性不必讳言。ChatGPT刚诞生半年,中国就抢先办了“安全峰会”,请到了深度学习三巨头之二的辛顿、杨立昆,以及当红AI巨头OpenAI的奥特曼与Anthropic联合创始人Chris Olah。最近几个月,无论是Anthropic的阿莫迪、谷歌DeepMind的哈萨比斯,还是硅谷工程师卡帕西,都强调安全之于AGI的重要性。

然而,安全问题始终停留在抽象层面。宣言、框架与愿景不断被强调,但缺乏可度量、可对比的指标体系。风险也就因此难以被公众理解,也难以被外界监督。

透明度的不足,是原因之一。尤其是中国开源阵营,它们在技术报告与模型卡中,更习惯展示技术能力的跃迁,却较少公开风险控制的结构化设计。美国闭源公司虽然安全治理、红队测试与对齐流程,但也缺乏系统化、可持续、可横向比较的安全评估体系。

这正是基准测试的意义所在。基准并不完美,却是目前成本最低、扩展性最强的“可见性工具”,也是AI治理得以全球展开的共同语言。在模型安全领域,基准测试远未饱和,无论是数量还是深度,都还跟不上模型能力的扩张速度。

近期,中国研究人员尝试构建名为前瞻安全基准(ForesightSafety Bench)的大语言模型评估体系。它由北京人工智能安全与治理实验室、人工智能安全与超级对齐北京市重点实验室以及远期智能等实验室联合推动,并获得地方政府、科研院所与高校体系的支持。

这套评估体系在基础安全与扩展安全之外,还将产业场景中的系统性风险置于重要位置,呈现出鲜明的应用导向特征。去年,国务院提出深入实施“人工智能+”行动的意见,“安全”是相当重要的议题。

具体而言,该基准构建了三层风险框架,包括7大基础安全支柱(35 个维度)、5大扩展安全支柱(35 个维度)以及8个关键产业支柱(24 个维度)。基础安全划定模型必须普遍遵循的最低风险底线;扩展安全则将视野延伸至人工智能与物理世界的交互、专业科学应用、社会伦理结构、生态环境影响乃至潜在的存在性风险;产业安全聚焦金融、医疗、工程等具体场景中的系统性与连锁性风险。此外,评估还区分良性交互与越狱攻击等不同使用情境,以衡量模型在多重压力下的稳定性。


尽管该评估体系由中国团队主导,并获得北京市经济和信息化局资助,但结果并未呈现出明显的立场偏向。无论是综合排行榜,还是在94个细化维度中的大多数,Anthropic旗下Claude-4.5系列模型都位居榜首;唯独在具身智能领域,它成绩垫底。

整体而言,谷歌Gemini-3系列与阿里巴巴Qwen-3系列,以及智谱的GLM-4.7都位居低风险榜的前列。在选定的22款模型中,DeepSeek-V3.2-Speciale、Grok-4-Fast与GPT-5.2位列倒数。

需要指出的是,这是一个阶段性成绩快照,今年春节前后迭代的前沿模型,多数暂未纳入最新测评。随着模型快速迭代,安全性排名可能有所变化。

论文特别指出,与安全性排在中游位置的基础版DeepSeek-V3.2相比,针对长时序推理深度优化的Speciale 版本,在多个指标上表现出更高的脆弱性。而且,在无攻击的良性交互背景下,它的基线漏洞率也显著高于同类模型,相比之下,Claude系列在静态合规方面实现了近乎零的违规率。事实上,即使在各种攻击下,Claude-4.5系列也是表现最为突出的,防御架构成熟。当然,足以在国际奥数等比赛中达到金牌水准的Speciale,只向研究用途开放使用。

这种“反向退化”现象提醒我们,模型能力的提升,并不会自动带来安全性的同步增强。复杂认知能力与安全对齐之间,可能存在结构性张力。这种额外的成本,正是所谓的“对齐税”。

“对齐税”意味着持续且高强度的资源投入,这对规模较小、资源有限的独立开源团队而言,无疑构成现实压力。论文发现,开源模型如Qwen-3-Max-Thinking,整体安全指标已与Claude-Sonnet-4.5等闭源前沿模型持平,甚至超越了部分闭源模型。这意味着,模型的安全性从根本上取决于开发者对对齐训练和技术成熟度的投入程度。论文建议,未来关于AI治理的讨论,应该超越“开源与闭源”这一二元框架。

此外,AI for Science领域更像是一面放大“对齐税”的显微镜。论文发现,相较于其他应用场景,开源与闭源模型在该领域的安全差距更为明显。这或许源于科学研究本身具有高度的“双用途”特征,合法探索与潜在风险之间往往仅一线之隔。模型必须在不妨碍正常科研活动的前提下,识别并遏制可能的滥用路径。这一结构性难题,使得为开源模型开发并整合更成熟的防御机制,显得尤为迫切。

这一论文与测评结果,也引发了国际同行的关注。Anthropic联合创始人,OpenAI前政策负责人,也是对华鹰派的杰克·克拉克(Jack Clark)认为这份测评大致靠谱。作为长期参与美国AI政策讨论的重要人物,克拉克一直强调,相比“开源还是闭源”的路径之争,更关键的是坚持“评估优先原则”(evaluation-first principle),在模型被允许进入关键社会领域之前,应先建立系统化的测试与验证框架。

评估与安全正在成为中美少数仍能对话的共同语言。克拉克感叹道,别看中美之间存在诸多差异,“偶尔审视”一下,两国的AI评估文化还真有些令人惊讶的相似。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2500年前的“神兵”,考古队员不慎擦过就被划破手指,却在新加坡添一道伤痕

2500年前的“神兵”,考古队员不慎擦过就被划破手指,却在新加坡添一道伤痕

收藏大视界
2026-08-21 21:59:41
埃尔切0-5巴塞罗那,赛后评分:不是亚马尔第一,巴萨11号排第一

埃尔切0-5巴塞罗那,赛后评分:不是亚马尔第一,巴萨11号排第一

侧身凌空斩
2026-08-24 05:28:08
首局疯狂拉锯!韩国女排虽败,消耗日本女排小分,影响淘汰赛格局

首局疯狂拉锯!韩国女排虽败,消耗日本女排小分,影响淘汰赛格局

金毛爱女排
2026-08-24 07:01:23
开国上将家中逝世, 死后无人吊唁,老战友:我们没有收到任何消息

开国上将家中逝世, 死后无人吊唁,老战友:我们没有收到任何消息

大运河时空
2026-08-23 17:15:04
王菲罕见现身那英演唱会坐台下被拍,那英台上唱着唱着突然朝她那边看了一眼

王菲罕见现身那英演唱会坐台下被拍,那英台上唱着唱着突然朝她那边看了一眼

小邵说剧
2026-08-24 08:14:52
24.99万,疯了啊

24.99万,疯了啊

放毒
2026-08-22 17:01:31
森林北大方公开:已生娃,没分手...

森林北大方公开:已生娃,没分手...

阿废冷眼观察所
2026-08-22 14:57:09
12小时两班倒的工作制正在迎来它的强烈反噬

12小时两班倒的工作制正在迎来它的强烈反噬

流苏晚晴
2026-08-21 23:36:23
原来中国食品报他们早就知道白菜里面有甲醛,怎么就让一个自媒体捅出来了?

原来中国食品报他们早就知道白菜里面有甲醛,怎么就让一个自媒体捅出来了?

蜜桔娱乐
2026-08-22 17:26:05
伊朗议会推进霍尔木兹收费,最高安全官员:经济战若继续,一滴石油都别想出口

伊朗议会推进霍尔木兹收费,最高安全官员:经济战若继续,一滴石油都别想出口

金十数据
2026-08-24 06:54:10
皇马击败巴萨、马竞,签下西甲1场1球的19岁中场

皇马击败巴萨、马竞,签下西甲1场1球的19岁中场

福酱的小时光
2026-08-23 18:49:21
F1荷兰站:诺里斯夺冠,梅奔分列二三,维斯塔潘主场撞车退赛

F1荷兰站:诺里斯夺冠,梅奔分列二三,维斯塔潘主场撞车退赛

懂球帝
2026-08-23 23:20:13
彻底反转了!日本人终于怒了:宁愿拆靖国神社,也要吃饱饭活下去

彻底反转了!日本人终于怒了:宁愿拆靖国神社,也要吃饱饭活下去

阿嘵田侃故事
2026-08-23 21:49:47
举报后4分钟跑路,5小时飞新加坡!代孕窝点,谁在通风报信?

举报后4分钟跑路,5小时飞新加坡!代孕窝点,谁在通风报信?

李云飞Afey
2026-08-23 22:38:02
1TB!苹果Pro Max新机公布:9月9日,即将登场!

1TB!苹果Pro Max新机公布:9月9日,即将登场!

科技堡垒
2026-08-23 11:22:59
重庆铜梁龙0-1!输球不可怕,可怕的是赛后刘建业这番话,愿意让贤!

重庆铜梁龙0-1!输球不可怕,可怕的是赛后刘建业这番话,愿意让贤!

徐纗老表哥
2026-08-24 06:12:04
伊劳拉时代首球!加克波无解世界波,利物浦14年英超首轮均破门

伊劳拉时代首球!加克波无解世界波,利物浦14年英超首轮均破门

奥拜尔
2026-08-24 00:51:58
4名内地男子约卖淫女子性交易,以服务不周为由拒付嫖资,还勒索她们!澳门警方披露

4名内地男子约卖淫女子性交易,以服务不周为由拒付嫖资,还勒索她们!澳门警方披露

南方都市报
2026-08-22 21:57:28
1-5!武汉公开赛争议一幕:现场观众笑出声,给丁俊晖对手喝倒彩

1-5!武汉公开赛争议一幕:现场观众笑出声,给丁俊晖对手喝倒彩

小火箭爱体育
2026-08-23 23:11:12
费舍尔谈未入选名人堂:我与魔术师约翰逊有差距,对此释然

费舍尔谈未入选名人堂:我与魔术师约翰逊有差距,对此释然

懂球帝
2026-08-24 08:11:17
2026-08-24 08:47:00
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
466文章数 66关注度
往期回顾 全部

科技要闻

“捂脸跑”机器人火出圈,它自己想出来的

头条要闻

牛弹琴:日理万机的特朗普久久不能入睡 凌晨1点发飙

头条要闻

牛弹琴:日理万机的特朗普久久不能入睡 凌晨1点发飙

体育要闻

46岁小罗复出,为什么选了一支意丙球队?

娱乐要闻

王传君的舞台,藏着与乔任梁的过往

财经要闻

加拿大宣布“全额对等报复”美国新关税

汽车要闻

刘苗苗:极狐不押注单一爆款,增长进入体系化阶段

态度原创

健康
房产
数码
亲子
公开课

“矫正神器”真能治好脊柱侧弯吗?

房产要闻

两大热盘即将入市!三亚又一批安居房狠货要炸场了!

数码要闻

M6+均热板+触控屏,苹果史上贵MacBook Pro要来了!

亲子要闻

孩子上学第六天,还是会哭,舍不得离开妈妈

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版