4月28日,国科大金融校友联合会AI专委会、国科大人工智能校友联合会(筹)、国科大创业与投资校友联合会、创投读书社、鼎好DH3联合主办了AI思享汇主题交流活动。
活动围绕”大模型演进与算力突围”主题,邀请到了中国科学院自动化研究所研究员,博导、副总工程师,紫东太初大模型中心常务副主任,武汉人工智能研究院院长,中国科学院大学人工智能学院岗位教授王金桥,以及澎峰科技创始人&CEO张先轶。
两位嘉宾从模型与算力两条主线切入,呈现了当前人工智能发展的技术脉络与产业挑战。
王金桥:多模态大模型是推动产业变革的重要力量
王金桥首先回顾了人工智能从2016年AlphaGo开始,到如今以大模型为核心的爆发式发展路径。王金桥表示,大模型能力尤其在自然语言理解、多模态生成等方向上迅速突破,成为推动产业变革的重要力量。
他强调,当前多模态大模型已广泛应用于文本、图像、音频、视频等领域,拉动了全球生产率的增长。
但他也指出,推理能力增强的同时,幻觉问题、能耗问题也尤为突出。目前主流大模型推理过程中能效远低于人脑,仅生成一段文本就需消耗数百瓦算力资源。提升单位能耗下的智能密度,成为未来发展的重要方向。
在分享中,王教授特别介绍了“紫东太初”多模态大模型的研发历程与技术突破,强调了跨模态检索与生成在实际应用中的广阔前景。
他表示,未来人工智能的发展,不仅依靠大数据、大算力、大参数,更在于如何让模型与实际场景深度融合,进入生成式智能的新阶段。
张先轶:国产异构算力进入窗口期,软件体系亟待完善
张先轶博士则从算力供给侧出发,分析了国产芯片在当前大模型需求爆发背景下的机遇与挑战。
他指出,尽管国际主流芯片厂商在硬件优化方面能力突出,但国产芯片在新一代架构设计上已展现出差异化创新。例如,通过针对大内存带宽需求优化、灵活处理不同推理速度的异构架构,国产芯片在部分细分场景具备优势潜力。
在系统层面,张先轶提出,未来算力体系需要“混合系统”思路,即国产芯片与国际芯片协同部署,通过不同阶段(如预填充推理、实时推理)合理分工,实现成本优化与性能提升。这对软件优化提出了更高要求。
张先轶表示,围绕国产芯片应用生态建设,澎峰科技重点打造了三大核心技术体系:
一是算子库:覆盖AI大模型、工业软件、信号处理等领域,现有算子量已达上万,支持CPU、GPU、NPU等多种异构平台。
二是异构计算框架:实现跨平台可迁移性,提升整体系统资源利用率。
三是MaaS开发平台:面向应用开发者,降低国产算力使用门槛,通过集成工具链实现零门槛开发和大规模部署。
此外,澎峰科技还通过自建计算中心与混合部署一体机方案,进一步加速国产算力在各行业的智能化应用落地。
张先轶认为:“未来2-3年,将是国产异构算力体系验证与规模化应用的关键窗口期。”
