YOCSEF广州举办工业大模型安全应用的信任构建与实施路径观点论坛

科创时讯（编辑/丁香 通讯员/崔金荣 杨楷翔 李雯霖）随着数字经济与人工智能技术的深度融合，工业大模型正成为重塑制造业生产模式、优化智能决策的核心引擎。然而，大模型概率生成的技术本质与工业场景对确定性的严苛要求存在天然矛盾，模型幻觉、提示注入等新型风险引发广泛关注，亟需重构信任体系。12月27日，中国计算机学会（CCF）青年计算机科技论坛（YOCSEF）广州分论坛在华南农业大学数学与信息学院举办“工业大模型安全应用的信任构建与实施路径”观点论坛，汇聚产学研用多方代表，共同推动工业大模型从技术可用走向广泛可信与安全落地。

本次论坛由CCF主办，CCF YOCSEF广州学术委员会组织，广州赛研思信息科技有限公司、华南农业大学数学与信息学院、华南理工大学计算机科学与工程学院联合支持。YOCSEF广州AC委员崔金荣（华南农业大学）和AC委员杨楷翔（华南理工大学）担任本次论坛执行主席。论坛邀请了中国电信广东公司马晓亮正高级工程师、西安电子科技大学广州研究院赵搏文副教授、中山大学杨思蓓副教授担任引导嘉宾，同元软控深圳子公司周胜副总经理、哈尔滨工业大学（深圳）漆舒汉教授（YOCSEF深圳现任主席）、广州视源电子科技股份有限公司张似衡担任思辨特邀嘉宾。华南农业大学数学与信息学院、软件学院副院长黄栋（YOCSEF广州2022-2023主席）、广东工业大学谭台哲（YOCSEF广州2014-2015主席）、中山大学李冠彬（YOCSEF广州2024-2025主席）、YOCSEF广州往届副主席高静（广东恒电信息科技）、优秀AC委员刘雷（广东科技报社），YOCSEF广州现任主席苏申（广州大学）、副主席陈俊颖（华南理工大学）、副主席姜思羽（广东外语外贸大学）、副主席朱鉴（广东工业大学）、学术秘书胡建芳（中山大学）、学术秘书李雯霖（广东财经大学），AC委员刘同来（仲恺农业工程学院）、陈炳丰（广东工业大学）、黄培涛（广州唐邦信息科技有限公司）、刘伟莉（广东技术师范大学）、李宇翔（头歌平台）、张天豫（京海盛大（上海）科技股份有限公司），委员邱少健（华南农业大学），以及江慧杰（广州赛研思股份有限公司）、刘莎（广东省工业软件学会）、王甜甜（北京优锘科技）、魏朋旭（中山大学）、梁程晋（广州腾科网络技术有限公司）、庄辉平（华南理工大学）、吴贺丰（中山大学）、张广煜（华南农业大学）等来自多家单位的60余位代表参与论坛。

论坛开幕环节，YOCSEF广州2022-2023主席华南农业大学数学与信息学院、软件学院副院长黄栋教授致欢迎辞。黄栋介绍了学院在人工智能、工业软件等领域的科研积累与人才培养成果，强调工业大模型安全应用对产业升级的重要意义，期待通过本次论坛搭建产学研协同创新平台，推动技术成果与产业需求深度对接。随后，YOCSEF广州现任主席苏申围绕“承担社会责任，提高成员能力”等核心理念，详细解读了YOCSEF“平等直言、求真务实”的组织文化，鼓励青年科技工作者在技术探索中坚守初心、勇担使命。

苏申介绍YOCSEF文化

引导报告环节，三位行业专家从技术实践、场景应用、理论研究等维度分享前沿洞见。中国电信广东公司网络与信息安全特级技师、正高级工程师马晓亮以“AI时代5G云化控制的研发与应用”为题，结合电信行业实践经验，阐述了5G技术与工业控制、人工智能融合应用的技术路径与安全挑战。

中国电信广东公司马晓亮作引导报告

西安电子科技大学广州研究院副教授赵搏文聚焦电力行业痛点，分享“面向电力行业的软硬件协同的大模型安全隐私计算技术”主题报告，详解如何通过软硬件协同设计破解工业数据隐私保护与模型训练效率的平衡难题。

西安电子科技大学广州研究院赵搏文作引导报告

中山大学副教授杨思蓓则从多模态大模型的技术机理出发，以“多模态大模型机制洞察驱动鲁棒生成”为主题，分享了提升模型生成稳定性与可靠性的核心技术方法，为工业场景下多源数据融合应用提供了理论支撑。

中山大学杨思蓓作引导报告

在三位引导发言嘉宾作报告后，由李冠彬、谭台哲、苏申分别为三位引导发言嘉宾颁发感谢牌，随后，由论坛执行主席崔金荣、杨楷翔主持论坛思辨环节。

李冠彬、谭台哲、苏申为三位引导嘉宾颁发感谢牌

思辨议题一：辅助支撑还是自主决策？—工业大模型应用的角色定位与安全边界辨析

与会专家普遍认为，工业场景对确定性、稳定性的极高要求与大模型“概率生成”的本质存在天然张力。因此，应用边界需依据风险等级严格划分：在关键基础设施、医疗、核心控制等高风险、不可逆领域，必须坚持“人在回路”，由人类承担最终决策责任；而在质检筛查、工艺评估、方案生成等高容错、可回溯场景，大模型可充分发挥提效与增质作用。 在技术路径上，大家形成共识：当前更可行的是采取“通用大模型 + 行业知识库 + RAG（检索增强生成）+ 多小模型协同”的复合方式，而非追求端到端的全自动决策。通过“人在回路”的持续反馈积累高质量数据，逐步压缩幻觉空间，是大模型从“辅助支撑”向“有限、自控的自主决策”演进的现实路径。

思辨议题二：验证缺失困局何解？—大模型落地工业现场的可行性与风险博弈

嘉宾们提出应坚持“小场景试点、渐进式应用”的原则。建议加快构建工业大模型数字孪生测试环境，通过虚拟仿真实现低成本、低风险的有效性验证；企业需根据工况安全完整性等级，建立差异化的AI决策误判容忍标准与熔断阈值，平衡智能化效率与生产安全。同时，应建立全流程日志审计体系，明确算法供应商、系统集成商与现场操作人员的责任边界，实现AI决策全过程的可溯源、可追责。

思辨议题三：行业共识如何构建？—工业大模型安全应用的实施路径与治理体系

与会嘉宾建议，应整合产学研用资源，梳理形成覆盖模型选型、私有化部署、运维监控的通用实施指南；讨论深入分析了“有形的手”与“无形的手”的协同动力机制。“无形的手”即市场驱动，当技术能明确降本增效时，企业会自发采用；而在当前风险高、收益不确定的早期阶段，亟需政府、行业主管部门或协会这只“有形的手”，通过政策引导、示范试点和标准制定，降低企业的试错成本。

与会嘉宾围绕相关议题展开讨论

工业大模型作为制造业智能化转型的核心引擎，其可信性与安全性正成为技术落地与产业升级的关键命题，不仅需要技术攻关，更是一场涉及效能收益、风险控制与制度设计的综合博弈。与会嘉宾围绕三大核心思辨议题展开深度研讨，形成阶段性共识：应在明确角色定位、完善验证机制、构建行业共识的基础上，推动工业大模型技术与工业场景的深度适配。坚持“人在回路”的底线思维，通过小场景的渐进式试点构建信任基础。论坛呼吁，需持续发挥产学研用的协同效应，以“有形之手”与“无形之手”合力打破验证缺失的困局，打造标准统一、风险可控、实操可行的安全应用生态，推动工业大模型从技术愿景稳步走向产业实效，为制造业高质量发展注入可信赖的智能动能。

执行主席为三位特邀嘉宾颁发感谢牌

论坛最后，黄栋对本次论坛进行了总结。本次论坛通过多视角碰撞、多维度探讨，清晰梳理了工业大模型安全应用的核心挑战与解决思路，为行业发展提供了宝贵的思辨成果。

黄栋作论坛总结

未来，CCF YOCSEF广州将以“智链工业、信创未来”为行动导向，形成深度问题清单与实践倡议，搭建信创产业常态化交流平台，凝聚技术共识，汇聚创新力量，助力工业大模型发展迈向“智链”驱动、“信创”引领的新阶段。

参会嘉宾合影