网易首页 > 网易号 > 正文 申请入驻

成方金科:央行系做AI,安全优先路线有何不同

0
分享至



【一份在成方金科某安全评审会上,被AI在模型上线前自动执行的“安全基线检查与红队测试记录”】

(背景:2026年11月,北京。成方金科安全评审会。一个AI模型申请上线,安全基线检查自动执行:训练数据是否包含敏感信息、模型输出是否可能泄露隐私、推理服务是否有越权访问风险。红队测试同步进行:模拟对抗性输入,测试模型的鲁棒性。全部通过后,模型才进入部署流程。成方金科是央行系科技公司,2026金融街论坛上联合15家机构发起智能体安全联合倡议。央行系做AI和商业银行做AI,最大的不同不在技术能力,在优先级排序:商业银行先想“能做什么”,央行系先想“不能做什么”。)

一、商业银行AI的“创新优先”:先上线,再补安全

商业银行的AI竞赛,节奏很快。

场景要抢上线、功能要抢首发、Token要抢规模。安全往往是上线后的补课:出了漏洞再补、监管检查再改。创新优先的逻辑是“先跑起来,再系安全带”。这个逻辑在商业上合理,在金融基础设施上危险。

成方服务的是央行和金融基础设施,一次安全事故的代价不是“体验变差”,是“系统性风险”。

二、成方的解法:安全不是关卡,是前置条件

第一,模型上线的“安全基线前置”。成方的安全基线检查在模型部署之前执行,不是上线之后审计。基线检查的项包括:训练数据来源合规、模型输出隐私保护、推理服务权限控制。不通过基线检查的模型,不能进入部署流程。安全是入场券,不是补考。

第二,红队测试的“对抗性验证”。基线检查验证的是“已知风险有没有被覆盖”,红队测试验证的是“未知风险能不能被扛住”。红队模拟对抗性输入:诱导模型输出敏感信息、构造边界条件让模型出错、尝试越权调用。红队测试的价值在于发现基线检查覆盖不到的盲区。

第三,智能体安全倡议的“行业基线”。单个机构的安全基线,只能保护自己。成方联合15家机构发起倡议,目标是建立行业通行的智能体安全基线。央行系科技公司的角色,不只是自己做安全,是为行业提供安全公共品。

三、行业终局:金融AI安全竞争的竞争,是“基线覆盖率”的竞争

当同行还在比“AI上线速度”时,成方在比有多少AI能力在上线之前经过了安全基线和红队测试。在金融AI安全的深水区,上线速度是面子,基线覆盖率才是里子。央行系的安全优先路线,短期看是“慢”,长期看是“稳”。谁能让安全基线跑在AI能力扩张的前面,谁就能在金融这个零容忍的领域里,把AI从“能用”做到“敢用”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

阿尔卑斯瞭望
2026-11-21 17:51:51
特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

政知新媒体
2026-11-21 10:17:31
炒股冠军的陨落!上半年1425.62%,如今-97.36%,千万账户已不足百万

炒股冠军的陨落!上半年1425.62%,如今-97.36%,千万账户已不足百万

金石随笔
2026-11-22 07:18:36
黎曼猜想被攻破!国外AI忙着搞科研,造福全人类,国产AI呢?

黎曼猜想被攻破!国外AI忙着搞科研,造福全人类,国产AI呢?

News脑洞
2026-11-22 13:37:42
64岁女总统挤民航经济舱来开会,“寒酸”还是正常?

64岁女总统挤民航经济舱来开会,“寒酸”还是正常?

山间听雨
2026-11-20 19:27:54
16岁少女被拉到牛场强奸后报案,对方却称“仅搂抱亲吻”,1个月后少女竟改口“未发生性关系”;检察机关查明原因,男子判有期徒刑四年

16岁少女被拉到牛场强奸后报案,对方却称“仅搂抱亲吻”,1个月后少女竟改口“未发生性关系”;检察机关查明原因,男子判有期徒刑四年

大风新闻
2026-11-22 10:27:07
停开6年后,“人一生必须坐一次”的K3/4次列车焕新重启,沿途停靠15个站点

停开6年后,“人一生必须坐一次”的K3/4次列车焕新重启,沿途停靠15个站点

红星新闻
2026-11-21 21:40:12
大爆冷!绿军单节输22分遭西部倒一补篮准绝杀 乔治19+8+5

大爆冷!绿军单节输22分遭西部倒一补篮准绝杀 乔治19+8+5

醉卧浮生
2026-11-22 13:36:53
东部第一!76人5连胜送雄鹿13连败 詹姆斯21+6+6希罗50+11+7

东部第一!76人5连胜送雄鹿13连败 詹姆斯21+6+6希罗50+11+7

醉卧浮生
2026-11-22 06:59:19
慌啥子嘛,越来越不对劲了

慌啥子嘛,越来越不对劲了

大张的自留地
2026-11-21 13:02:04
诈骗金额1.2亿!低保证金噱头让投资者深陷圈套

诈骗金额1.2亿!低保证金噱头让投资者深陷圈套

极目新闻
2026-11-22 08:24:25
CBA最新消息!上海男篮内讧,韩德君或被处罚

CBA最新消息!上海男篮内讧,韩德君或被处罚

体坛瞎白话
2026-11-22 09:19:56
何沁教授逝世

何沁教授逝世

极目新闻
2026-11-21 16:50:35
一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

往史过眼云烟
2026-11-21 14:23:08
北电也建马院了:全国已经超过 2000 家,真正的考验才刚开始

北电也建马院了:全国已经超过 2000 家,真正的考验才刚开始

迷世书童
2026-11-22 11:54:48
在深圳坐车不拉窗帘,特朗普自曝:我在车上仔细观察,深圳街道干净得令人难以置信

在深圳坐车不拉窗帘,特朗普自曝:我在车上仔细观察,深圳街道干净得令人难以置信

第一财经资讯
2026-11-21 17:52:44
“张朝阳被证监会出具警示函”,搜狐创始人张朝阳:不是我,AI区别不了同名同姓的人

“张朝阳被证监会出具警示函”,搜狐创始人张朝阳:不是我,AI区别不了同名同姓的人

红星新闻
2026-11-22 10:56:12
【英超】阿隆索已过保质期?全场挨打1比4溃败!从球员到球迷,切尔西都破防了

【英超】阿隆索已过保质期?全场挨打1比4溃败!从球员到球迷,切尔西都破防了

体坛周报
2026-11-22 11:46:16
日媒记者“逐帧解析”高市早苗被特朗普无视:非常耻辱,根本没有人理她,这就是现实

日媒记者“逐帧解析”高市早苗被特朗普无视:非常耻辱,根本没有人理她,这就是现实

台州交通广播
2026-11-21 23:09:45
波兰和丹麦等地接连发生一系列“严重事件”,法国总统马克龙谴责俄罗斯称俄方相关行动是“不负责任的赌博,只会让俄罗斯更加孤立”

波兰和丹麦等地接连发生一系列“严重事件”,法国总统马克龙谴责俄罗斯称俄方相关行动是“不负责任的赌博,只会让俄罗斯更加孤立”

扬子晚报
2026-11-21 17:42:16
2026-11-22 14:39:00
硬核产研社
硬核产研社
以技术为锚,看懂企业兴衰与行业周期。
21文章数 1关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子租房几个月被赶走:我4600每月 中介月付房东5000

头条要闻

女子租房几个月被赶走:我4600每月 中介月付房东5000

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

家居
数码
本地
游戏
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

华为史上最薄手表WATCH Air下周发布!李小龙:对男性穿西装衬衣非常友好

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

《GTA6》首日销售额破37.9亿美元 创造娱乐行业首发纪录

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版