河南
大象新闻记者 李莉 杨文丽
10月15日，第27届中国国际软件博览会在郑州举办，百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜分享了大模型时代AI基础平台驱动软件生态带来的新变化。她表示，大模型的爆发将人工智能推向一个新的高潮。
（吴甜在峰会上作分享）
在开幕式暨主题峰会上，吴甜表示，大模型具有效果好、泛化性强、研发流程标准化等特点，正引领人工智能的发展。在这一阶段，AI研发范式带来了开发、计算、部署的新挑战，尤其是大模型的高效训练和推理部署，需要软硬件协同发力。
她讲到，大模型高效训练的关键要素包括训练吞吐、训练有效时间和收敛效率，这背后涉及框架、芯片、集群、算法等软硬件不同组合的协同优化。对大模型的推理部署来说，效果无损、低时延高吞吐、成本效益等要素极为关键，需要模型压缩与量化、并行推理、软硬件协同优化等技术的支持。
要解决大模型研发所带来的一系列挑战，深度学习平台关键需要具备大规模并行计算、高性能推理部署、全流程工程化三方面能力。以百度飞桨为例，作为百度自研的产业级深度学习开源开放平台，飞桨从核心框架、基础模型库，到端到端开发套件、工具与组件，以及星河社区等，全方位支持了文心大模型的演进过程。飞桨在核心框架和芯片之间构建了硬件适配层，打造多硬件统一适配方案，已适配 60多款系列芯片，相比PyTorch，芯片基础适配的接口数减少56%，代码量减少80%。
在深度学习平台与大模型联合优化下，文心大模型的能力得到了拓展、效率得到了提升，ERNIE-4.5-300B-A47B模型上实现预训练MFU达47%， ERNIE-4.5-300B-A47B模型在TPOT 50ms时延条件下，实现了输入57K tokens/秒、输出29K tokens/秒的高吞吐性能。文心思考模型X1.1相比上个版本，事实性提升34.8%，指令遵循提升12.5%，智能体提升9.6%。
大模型与深度学习平台为科技创新和产业升级构筑了坚实的AI基础技术底座平台，但在各行各业广泛应用起来，应用生态建设至关重要。
据了解，百度进行了模型及相应配套工具的开源。文心大模型4.5系列已开源11款模型，涵盖47B、3B激活参数的混合专家(MoE)模型，与0.3B参数的稠密型模型，配套开源了文心大模型开发套件ERNIEKit、大模型高效部署套件FastDeploy，方便开发者在此基础上实现高效的模型开发和部署，进而在更广泛的行业加速AI的落地应用。
星河社区为开发者提供全方位服务，已上线700万个实践项目，600多门公开课以及400多场AI竞赛。开发者也在应用中反过来推动AI基础技术平台的完善。目前，飞桨框架贡献者俱乐部成员达到195位，飞桨开发者技术专家411位，全球各地开发者自主建立运营的飞桨领航团超过400个。
在文心大模型和飞桨深度学习平台的基础上，百度在上海、广州、武汉、南京、宁波、厦门、南昌、无锡等多地落地产业赋能中心、数据生态中心和教育创新中心，加快区域产业智能化升级。
公开资料显示，截至2025年9月，飞桨文心生态开发者已达到2333万，服务企业达到76万家。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
