网易首页 > 网易号 > 正文 申请入驻

深蓝媒体智库沙龙|“用魔法打败魔法”:AI原生困局的“自救”密码

0
分享至

金融领域合规机制建设已上升为驱动行业持续健康发展的核心命题。7月31日,由北京商报社、深蓝媒体智库主办的"AI金融双刃剑:从安全底线寻找转型机遇"沙龙在上海成功举办。作为此次沙龙的重磅环节之一,现场圆桌对话围绕"AI算法备案时代的金融合规路径"展开。多位行业专家和企业嘉宾对AI金融的未来发展趋势进行了洞察和展望。

与会嘉宾认为,金融AI合规的本质是在监管刚性要求与技术可行性之间寻找动态平衡点。在人工智能技术深度渗透金融服务的背景下,如何通过制度设计与技术管控构建合规体系,既满足监管要求又保障创新活力,成为当前金融科技发展中亟待突破的关键课题。

从被动合规到主动治理

在AI算法备案制度的框架下,金融领域业务算法,如智能投顾、信用评估、保险定价等,进行合规改造与备案准备时,面临多重系统性挑战。

具体而言,金融AI算法备案的核心是穿透算法黑箱,实现可审计、可干预的透明决策。企业需以"主动合规"重构技术伦理。

星火智云(上海)科技发展有限公司(以下简称"星火智云")副总裁罗方舟表示,为应对监管环境变化,公司核心策略是系统采集监管文本、图片、视频及销售流程意见,将其转化为AI学习的底层知识库。通过类似"基础必修课"的规划,将正向准则植入AI训练流程,并持续丰富数据来源。例如,监管对营销内容的指导意见、保险公司提供的销售内容文件等,均被纳入知识库训练AI,形成"AI研修课"以完善合规能力,为未来AI在业务中大规模应用奠定基础。

据了解,作为一家互联网营销企业,星火智云自2018年起开展互联网保险业务。企业经营重点之一是关注安全问题,从信息流投放到客户运营、售后环节,自2019年起已大规模应用AI技术。

"具体应用场景包括内容生产等。"罗方舟表示,每日需生成大量内容,构建包含数字人、短视频混剪等技术的完整内容生产线。在此过程中,监管对通过内容引导用户进行保险消费的约束日益清晰,尤其关注保险产品介绍边界及灰色地带的合规性,各流量平台对相关内容的约束界限也逐渐明确。

"大模型本身无善恶之分,关键在于如何使用。"神州融信云科技股份有限公司研发技术中心总经理郭学超表示,当前金融市场呈现"冰火两重天"态势:表面上看热度较高,各类概念频出;但实际成熟应用模式较少。通过原有算法备案是一种方式,客户更关注模式的可靠性与准确性。此外,合规性至关重要,备案或许是很好的解决路径。

AI领域的特殊性体现在AI面客服务尚未被允许等方面。郭学超也认为,金融行业与其他行业一样,必须在合规框架内开展业务,不容许出错。目前公司主要通过应用端到端大模型、固化流程、结合小模型等方式规避合规困境,通过技术手段解决合规问题。

细分领域共探解题思路

需要关注的是,从智能投顾、信用评估到保险定价,不同细分领域的风险特征与影响范围存在显著差异,备案策略需在统一框架下实现精准适配。

"基于不同金融细分领域应用AI算法的风险特征和影响范围,从监管备案及应用层面来看,行业方向已较为明确。"上海金融与发展实验室特聘研究员潘晓俊表示,过去可从最合规的路径解决问题并控制风险,关于后续发展,可从简单、可控的场景逐步深入。例如,监管对模型专业性的要求,不仅涉及技术专业度,更需关注业务效果的专业性。若告知监管,当前应用仅聚焦于简单的图片、文字或视频生成,或可更易被接受。

潘晓俊的另一个观点是"用魔法打败魔法"。他认为,近期行业一大痛点是电信外呼受监管影响较大。从监管角度看,外呼为何被管控?因其可能影响客户体验。若明确告知监管,我们通过AI接口优化外呼形式,既可减少对客户的骚扰,又能提升效率,这或许是很好的应用方向。毕竟外呼是当前一大痛点,一旦被投诉,短期内可能无法使用,尤其是营销短信等,而新技术若具备可解释性与可控性,或可规避此类问题。

中诚信信用分析(北京)有限公司信评总监曹闰在圆桌环节表示,从监管层面而言,"幻觉"问题是需要重点考虑的。在应用AI进行输出时,始终要保持更为谨慎的态度。然而,目前的主要难点在于,AI学习过程中收集的数据来自多方,这些数据的隐私性和密集性存在差异,且缺乏完全明确的监管规定。

基于此,曹闰认为,若自行制定数据使用规则,也可能面临监管的挑战。因此,数据的保密程度及如何合规利用这些数据,成为较大的难题。公司当前的应对措施是将数据拆分为内部数据和较为敏感的数据两类,进行了一定的努力。但后续拆分是否符合监管要求以及输出是否能够满足合规性,仍需各方进行交流。"我们也相信,随着AI未来的升级和迭代,目前面临的问题将不再那么严峻,但仍需深度探索。"

作为一家面向C端的企业,罗方舟表示,虽然在算法备案方面规模较小,但同样面临显著挑战。当前流量平台核心收入依赖广告收入,星火智云需通过算法精准挖掘目标客户,如保险领域高价值用户,而平台倾向于将核心用户打包售卖,排斥低价值用户,由此引发流量场景的"算法对抗"——双方通过数据和算法能力争夺目标用户。在此过程中,数据安全问题尤为突出。平台对用户数据的采集,包括App使用行为、聊天内容等较为全面,而公司作为保险数据获取方,需在算法中明确数据使用边界:哪些数据可合法使用、哪些不可,并确保数据存储、应用及衍生数据处理的合规性。依托支付通道与监管部门的沟通,公司需验证数据流的安全性、合规性及算法可控性,以实现监管认可的合规状态。

北京商报记者 胡永新

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
离开黄仁勋的英伟达:GeForce不会死,但已有工程师选择了离开

离开黄仁勋的英伟达:GeForce不会死,但已有工程师选择了离开

财闻
2026-11-16 13:16:06
特朗普:不介意黄仁勋重掌英伟达

特朗普:不介意黄仁勋重掌英伟达

界面新闻
2026-11-16 23:00:15
黄仁勋老婆被曝出轨,街头和帅气男子热吻,两人互不干扰

黄仁勋老婆被曝出轨,街头和帅气男子热吻,两人互不干扰

江山挥笔
2026-11-16 15:20:59
在宾馆前台干了六年,我学会了一件事:永远不要给先开房再等女人的人贴标签

在宾馆前台干了六年,我学会了一件事:永远不要给先开房再等女人的人贴标签

新时代的两性情感
2026-11-17 03:10:36
一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

极目新闻
2026-11-16 10:06:42
容祖儿这次演唱会,坐内场看得清楚,她上身亮片外套发型都在线,唯独那条裤子松垮垮堆在鞋面上,走两步就得提一下,唱快歌都不敢迈大步

容祖儿这次演唱会,坐内场看得清楚,她上身亮片外套发型都在线,唯独那条裤子松垮垮堆在鞋面上,走两步就得提一下,唱快歌都不敢迈大步

一盅情怀
2026-11-16 16:01:58
美国国会变天,泽连斯基有恃无恐,主动爆料机密,特朗普女婿愤怒

美国国会变天,泽连斯基有恃无恐,主动爆料机密,特朗普女婿愤怒

影孖看世界
2026-11-16 18:18:53
超短裙女子深夜现身酒店前台,只因20块钱起了冲突,2小时后竟横尸荒野

超短裙女子深夜现身酒店前台,只因20块钱起了冲突,2小时后竟横尸荒野

夜话奇谭
2026-11-16 13:02:43
什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

黯泉
2026-11-16 18:53:19
打平即出线!意大利又崩盘 1-4遭比利时逆转+双杀 从头名跌第3出局

打平即出线!意大利又崩盘 1-4遭比利时逆转+双杀 从头名跌第3出局

我爱英超
2026-11-16 06:56:13
网友翻出黄仁勋18年前探望四川地震灾区孩子的照片

网友翻出黄仁勋18年前探望四川地震灾区孩子的照片

3DM游戏
2026-11-15 19:51:38
APEC会议首位外国元首抵达深圳,中国女保镖贴身保护;出发前与中国游客热情合影,网友们花式点赞

APEC会议首位外国元首抵达深圳,中国女保镖贴身保护;出发前与中国游客热情合影,网友们花式点赞

极目新闻
2026-11-16 17:23:11
在登机口抛硬币“祈福”,61岁女子被拘5日!航班因此延误58分钟,湖北机场公安:在机场、停机坪抛硬币非常危险

在登机口抛硬币“祈福”,61岁女子被拘5日!航班因此延误58分钟,湖北机场公安:在机场、停机坪抛硬币非常危险

极目新闻
2026-11-16 21:03:21
NBA官网更新实力榜:马刺居首火箭第2,76人第5开拓者飙升至第6

NBA官网更新实力榜:马刺居首火箭第2,76人第5开拓者飙升至第6

罗说NBA
2026-11-17 06:09:45
中国新能源企业在芬建厂涉人口贩运调查

中国新能源企业在芬建厂涉人口贩运调查

凤眼论
2026-11-16 14:23:39
被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

发现新西兰
2026-11-16 11:23:23
随着希腊1-0,德国5-0荷兰,欧国联A级联赛8强已诞生7席:7大劲旅在列

随着希腊1-0,德国5-0荷兰,欧国联A级联赛8强已诞生7席:7大劲旅在列

侧身凌空斩
2026-11-17 05:46:31
特朗普现在真有点泥菩萨过江,自身难保了

特朗普现在真有点泥菩萨过江,自身难保了

News脑洞
2026-11-16 21:23:23
伊隆·马斯克:香港生育率长期位居全球最低之一,未来或将消失

伊隆·马斯克:香港生育率长期位居全球最低之一,未来或将消失

风向观察
2026-11-16 16:26:29
昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

皓皓情感说
2026-11-16 07:51:03
2026-11-17 07:31:00
北京商报 incentive-icons
北京商报
北京商报社隶属于中共北京市委宣传部,由北京日报报业集团主管主办
298863文章数 300248关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

房产
健康
教育
数码
军事航空

房产要闻

6.6亿!海口卖地!

情绪真能让健康人"伤心至死"?

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版