上海
图片来源：视觉中国
蓝鲸新闻9月10日（记者 胡劼）9月9日，Inclusion外滩大会·《AI重塑金融范式：可信AI与金融智能体前沿论坛》在上海举行，期间，多项揭牌、启动、发布成果集中落地，深入探讨可信AI与金融智能体产业落地路径，助力上海国际金融中心与全球金融科技中心协同发展。
本次论坛以《上海高质量推进全球金融科技中心建设行动方案》为指导，由智能投研技术联盟（ITL）主办，上海浦东发展银行联合主办，中泰证券股份有限公司、财联社承办，蓝鲸新闻等担任合作媒体。
会议期间，上海创智学院教授、副院长，上海人工智能实验室领军科学家乔宇分享《金融智能体的分水岭：从"会回答"到"可信行动"》。他表示AI正从内容生成走向智能体自主执行任务，金融是AGI演进的重要应用主战场。依靠真实业务闭环迭代提升基模和智能体实战能力，以FDE模式加速应用落地，同时需重视可信可控、合规风控与人机协同。
财富管理转型领域的主战场之一，是证券行业。对券商而言，AI的“行动”直接关联真金白银的交易执行与客户资产变动，整体容错率极低。在实际业务场景中，如何系统性提升AI应用的“可信”程度，已经成为行业落地金融智能体必须优先破解的核心命题。
对此，国金证券股份有限公司首席信息官王洪涛在圆桌分享环节表示，当前提高“可信”重点是围绕“幻觉、边界、被追责”关键词展开的。此外，客户敏感数据要特别保护。
王洪涛表示，前两年，国金证券围绕评判应用场景出现幻觉的危害和风险，提出了几项评判标准，包括风险传导速度、纠错成本、监管程度以及人机协同程度等维度，对场景进行评估分级，再根据评估制定Agent采用的运转模式。例如，有些场景只能是人工确认后执行；而有些场景以前是人工确认后执行，但如果发现风险程度没有那么高，准确度从原来的80%提高到现在的99%，可能会根据风险情况转移成为自主执行+事后复核。
在大规模的应用层面，王洪涛表示，提高可信程度还离不开多项机制的共同完善。一是程序在运行完以后要有验证环节，可以对应到自主执行+事后复核；二是对幻觉容忍度分类制定体系，比如建立数据处理多模型交叉验证、人工复核等机制；三是增强AI安全围栏保护机制，比如toC端必须建立防攻击机制等。“随着国金证券乃至整个行业在Skill能力、权限管理能力、基础数据以及本体建设的完善，Agent运行的准确度可能会越来越高，也越来越可信。”
从行业趋势来看，当智能体从一款好用的单点工具升级为覆盖全业务流程的企业级平台时，往往会迎来指数级增长的全新挑战。
智能投研技术联盟（ITL）秘书长 张永启表示，现阶段行业在落地企业级AI平台的过程中，仍面临不少现实问题与技术瓶颈：一方面，算力增长的速度远远跟不上业务侧用户Token需求量的增长；另一方面，AI应用在大范围推广时，不可避免地催生了管理层面的新挑战，其中首当其冲的就是企业自身软件工程与运维开发管理的挑战。
其表示，随着AI应用的调用模式从传统的用户主动点击交互，转向批量自动化接口调用，使用者完全有可能突破系统预设的常规使用路径，甚至绕过既定的调用规则与完备的审批，因此，在推广、应用这些工具时，比较重要的还是做好相应的配套，比如AI底层模型网关，做好用户请求的审计，筑牢企业级AI应用的安全防线。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
