网易首页 > 网易号 > 正文 申请入驻

深蓝媒体智库沙龙|“用魔法打败魔法”:AI原生困局的“自救”密码

0
分享至

金融领域合规机制建设已上升为驱动行业持续健康发展的核心命题。7月31日,由北京商报社、深蓝媒体智库主办的"AI金融双刃剑:从安全底线寻找转型机遇"沙龙在上海成功举办。作为此次沙龙的重磅环节之一,现场圆桌对话围绕"AI算法备案时代的金融合规路径"展开。多位行业专家和企业嘉宾对AI金融的未来发展趋势进行了洞察和展望。

与会嘉宾认为,金融AI合规的本质是在监管刚性要求与技术可行性之间寻找动态平衡点。在人工智能技术深度渗透金融服务的背景下,如何通过制度设计与技术管控构建合规体系,既满足监管要求又保障创新活力,成为当前金融科技发展中亟待突破的关键课题。

从被动合规到主动治理

在AI算法备案制度的框架下,金融领域业务算法,如智能投顾、信用评估、保险定价等,进行合规改造与备案准备时,面临多重系统性挑战。

具体而言,金融AI算法备案的核心是穿透算法黑箱,实现可审计、可干预的透明决策。企业需以"主动合规"重构技术伦理。

星火智云(上海)科技发展有限公司(以下简称"星火智云")副总裁罗方舟表示,为应对监管环境变化,公司核心策略是系统采集监管文本、图片、视频及销售流程意见,将其转化为AI学习的底层知识库。通过类似"基础必修课"的规划,将正向准则植入AI训练流程,并持续丰富数据来源。例如,监管对营销内容的指导意见、保险公司提供的销售内容文件等,均被纳入知识库训练AI,形成"AI研修课"以完善合规能力,为未来AI在业务中大规模应用奠定基础。

据了解,作为一家互联网营销企业,星火智云自2018年起开展互联网保险业务。企业经营重点之一是关注安全问题,从信息流投放到客户运营、售后环节,自2019年起已大规模应用AI技术。

"具体应用场景包括内容生产等。"罗方舟表示,每日需生成大量内容,构建包含数字人、短视频混剪等技术的完整内容生产线。在此过程中,监管对通过内容引导用户进行保险消费的约束日益清晰,尤其关注保险产品介绍边界及灰色地带的合规性,各流量平台对相关内容的约束界限也逐渐明确。

"大模型本身无善恶之分,关键在于如何使用。"神州融信云科技股份有限公司研发技术中心总经理郭学超表示,当前金融市场呈现"冰火两重天"态势:表面上看热度较高,各类概念频出;但实际成熟应用模式较少。通过原有算法备案是一种方式,客户更关注模式的可靠性与准确性。此外,合规性至关重要,备案或许是很好的解决路径。

AI领域的特殊性体现在AI面客服务尚未被允许等方面。郭学超也认为,金融行业与其他行业一样,必须在合规框架内开展业务,不容许出错。目前公司主要通过应用端到端大模型、固化流程、结合小模型等方式规避合规困境,通过技术手段解决合规问题。

细分领域共探解题思路

需要关注的是,从智能投顾、信用评估到保险定价,不同细分领域的风险特征与影响范围存在显著差异,备案策略需在统一框架下实现精准适配。

"基于不同金融细分领域应用AI算法的风险特征和影响范围,从监管备案及应用层面来看,行业方向已较为明确。"上海金融与发展实验室特聘研究员潘晓俊表示,过去可从最合规的路径解决问题并控制风险,关于后续发展,可从简单、可控的场景逐步深入。例如,监管对模型专业性的要求,不仅涉及技术专业度,更需关注业务效果的专业性。若告知监管,当前应用仅聚焦于简单的图片、文字或视频生成,或可更易被接受。

潘晓俊的另一个观点是"用魔法打败魔法"。他认为,近期行业一大痛点是电信外呼受监管影响较大。从监管角度看,外呼为何被管控?因其可能影响客户体验。若明确告知监管,我们通过AI接口优化外呼形式,既可减少对客户的骚扰,又能提升效率,这或许是很好的应用方向。毕竟外呼是当前一大痛点,一旦被投诉,短期内可能无法使用,尤其是营销短信等,而新技术若具备可解释性与可控性,或可规避此类问题。

中诚信信用分析(北京)有限公司信评总监曹闰在圆桌环节表示,从监管层面而言,"幻觉"问题是需要重点考虑的。在应用AI进行输出时,始终要保持更为谨慎的态度。然而,目前的主要难点在于,AI学习过程中收集的数据来自多方,这些数据的隐私性和密集性存在差异,且缺乏完全明确的监管规定。

基于此,曹闰认为,若自行制定数据使用规则,也可能面临监管的挑战。因此,数据的保密程度及如何合规利用这些数据,成为较大的难题。公司当前的应对措施是将数据拆分为内部数据和较为敏感的数据两类,进行了一定的努力。但后续拆分是否符合监管要求以及输出是否能够满足合规性,仍需各方进行交流。"我们也相信,随着AI未来的升级和迭代,目前面临的问题将不再那么严峻,但仍需深度探索。"

作为一家面向C端的企业,罗方舟表示,虽然在算法备案方面规模较小,但同样面临显著挑战。当前流量平台核心收入依赖广告收入,星火智云需通过算法精准挖掘目标客户,如保险领域高价值用户,而平台倾向于将核心用户打包售卖,排斥低价值用户,由此引发流量场景的"算法对抗"——双方通过数据和算法能力争夺目标用户。在此过程中,数据安全问题尤为突出。平台对用户数据的采集,包括App使用行为、聊天内容等较为全面,而公司作为保险数据获取方,需在算法中明确数据使用边界:哪些数据可合法使用、哪些不可,并确保数据存储、应用及衍生数据处理的合规性。依托支付通道与监管部门的沟通,公司需验证数据流的安全性、合规性及算法可控性,以实现监管认可的合规状态。

北京商报记者 胡永新

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
孙俪发文:吃着早饭邓先生让我给他拿个牙线

孙俪发文:吃着早饭邓先生让我给他拿个牙线

韩小娱
2026-11-16 11:14:34
除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

墨策讲历史
2026-11-12 12:47:12
60岁李若彤重返活死人墓!眼神依旧清冷温柔,一转身瞬间梦回神雕

60岁李若彤重返活死人墓!眼神依旧清冷温柔,一转身瞬间梦回神雕

暖心萌阿菇凉
2026-10-13 14:25:52
一位英伟达员工在社交平台上发长文深情致敬黄仁勋,结果因为配图实在太“真实”,帖子瞬间在科技圈变成了大型欢乐现场。

一位英伟达员工在社交平台上发长文深情致敬黄仁勋,结果因为配图实在太“真实”,帖子瞬间在科技圈变成了大型欢乐现场。

背包旅行
2026-11-16 15:49:10
邝港杰承认曾与弟弟串供,计划把杀人罪推给父亲:只为让家庭损失最小

邝港杰承认曾与弟弟串供,计划把杀人罪推给父亲:只为让家庭损失最小

娱站
2026-11-16 13:07:24
瓦利德·哈立德·阿卜杜拉·艾哈迈德(17岁),被羁押期间死亡,巴西最新声明

瓦利德·哈立德·阿卜杜拉·艾哈迈德(17岁),被羁押期间死亡,巴西最新声明

南方都市报
2026-11-14 17:07:58
Haynes:太阳将杰伦-格林摆上货架,或与德章特-穆雷互换

Haynes:太阳将杰伦-格林摆上货架,或与德章特-穆雷互换

懂球帝
2026-11-16 13:26:24
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
英媒:黄仁勋留了后手,有意重返英伟达,其实英伟达也为他回归留好了后门

英媒:黄仁勋留了后手,有意重返英伟达,其实英伟达也为他回归留好了后门

王新喜
2026-11-16 11:17:09
断崖降温!上海最低1℃!

断崖降温!上海最低1℃!

尚虹桥
2026-11-16 13:32:05
突发异动!000533,直线涨停!

突发异动!000533,直线涨停!

证券时报
2026-11-16 11:54:26
苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

川渝视觉
2026-04-17 22:13:14
刘欢在2008年北京奥运会上的着装至今仍有争议,因为那是一个举世瞩目的盛会,刘欢却只是穿了一件普通T恤就开始表演了!

刘欢在2008年北京奥运会上的着装至今仍有争议,因为那是一个举世瞩目的盛会,刘欢却只是穿了一件普通T恤就开始表演了!

财经要参
2026-11-01 16:00:05
15+31,湖人赢球两点仍该批!东契奇赛后谈詹姆斯直言不讳,一人也被忽视

15+31,湖人赢球两点仍该批!东契奇赛后谈詹姆斯直言不讳,一人也被忽视

鱼崖大话篮球
2026-11-16 11:09:56
北大399元羽绒服全网刷屏!网友:考不上北大我还穿不起北大羽绒服吗?

北大399元羽绒服全网刷屏!网友:考不上北大我还穿不起北大羽绒服吗?

城事堂
2026-11-16 11:05:13
太争气了!何卓佳终于等到了这一天!陪孙颖莎苦练7年,如今传来两个重磅喜讯

太争气了!何卓佳终于等到了这一天!陪孙颖莎苦练7年,如今传来两个重磅喜讯

运动探索
2026-11-16 15:15:08
关张学良54年花了多少钱?老蒋看到账单血压飙升骂出那句口头禅

关张学良54年花了多少钱?老蒋看到账单血压飙升骂出那句口头禅

纪史行者
2026-10-14 11:42:13
幼儿园女老师赌气炒股,亏掉60万后:老公买房同样亏 60 万,凭什么他算投资我算赌?

幼儿园女老师赌气炒股,亏掉60万后:老公买房同样亏 60 万,凭什么他算投资我算赌?

民生故事会
2026-10-19 19:12:52
爆冷3连败!从西部第一跌落神坛,夺冠热门倒下,NBA确实变天了

爆冷3连败!从西部第一跌落神坛,夺冠热门倒下,NBA确实变天了

篮球扫地僧
2026-11-16 16:56:16
2026-11-16 18:00:49
北京商报 incentive-icons
北京商报
北京商报社隶属于中共北京市委宣传部,由北京日报报业集团主管主办
298779文章数 300248关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

APEC会议首位外国元首抵达深圳 中国女保镖贴身保护

头条要闻

APEC会议首位外国元首抵达深圳 中国女保镖贴身保护

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

日产终于开窍了!全新NV200 PHEV才是露营党的梦中情车?

态度原创

时尚
艺术
旅游
游戏
教育

秋天找到一些固定的穿衣公式,用针织衫搭配牛仔裤,减龄舒适

艺术要闻

寸境宏光——2026中国小幅油画展 人物篇

旅游要闻

大理以旅游促进各民族交往交流交融

《纪元117:罗马和平》补丁预计一周后发布!

教育要闻

买1赠1=打几折?难不倒学霸

无障碍浏览 进入关怀版