广东
分享至
人民财讯6月18日电，6月18日，在2026陆家嘴论坛“全体大会六：科技创新赋能金融高质量发展”上，中国农业银行董事长、执行董事谷澍表示，在应用大模型过程中，AI大模型当前面临的主要风险包括模型黑箱、模型幻觉、模型自主思考和决策带来的不确定性。在他看来，这种不确定性风险可进一步细分为三大类:一是参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别，海量参数的矩阵运算和生成非线性叠加导致模型的决策机制和输出结果不透明，也很难解释。二是概率生成带来准确性的考验。大模型决策过程不像人类进行决策时有线性思维的过程，而是根据海量训练数据统计词源token的概率性规律，本质上是概率统计，不是逻辑性的事实推导。当数据和事实依据不足时，容易产生自洽的幻觉。三是模型现在已能自主思考和决策了，随着大模型的进化和智能体的深度应用，它已突破传统软件输入输出相对固化的范式，能够自主思考，这在一定程度上放大了过程不可控、结果不可知的风险。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
