北京
当下，大模型大潮席卷而来。随着大模型参数的不断增长，对基础设施的要求也在不断增加，同时也带来了更多的产业机会。6月19日，在九合创投“十二周年年会”上，百度集团副总裁侯震宇以“大模型重构AI基础设施”为主题发表演讲。他强调，大模型快速发展对AI基础设施带来重构要求，也为产业发展带来了新机遇。
侯震宇表示，大模型的快速发展对底层基础设施带来了极致高密、极致互联、极致规模的重构要求。
具体来说，众多的大模型厂商都在遵循Scaling Law定律，都在不停地用更多的数据在更多算力的基础设施上训练出更大的模型。所谓的Scaling Law，简单说就是模型参数越大，模型效果越好，训练模型的数据量规模越大，训练出的模型效果越好。也就是说，要想实现更好的模型效果，需要极致规模的基础设施。
他同时认为，光有极致规模的基础设施还不够。基础设施之间还需要有更好、更大的数据交换，这就意味着互联的带宽要大、延时要低，要极致互联。而要想实现极致互联，就需要在单位面积上有更大的计算密度，也就是极致高密。
“百度智能云可以提供极致高密、极致互联、极致规模的AI基础设施。我们不仅有自研的全新一代智能计算操作系统万源，还有业界最高效的AI异构算力管理平台百舸·AI异构计算平台。它支持万卡级别超大规模AI计算，训练吞吐能力较之前提升30%，推理吞吐较之前提升60%，线性加速比和带宽有效性都超过了95%。”侯震宇说。
在谈及AI基础设施重构带来的产业发展机遇，侯震宇表示，芯片及服务器密度越来越高，功耗越来越大，这将推动液冷技术的快速发展。而极致互联给光互联、光模块及交换机产业提供了产业升级的机遇，光模块相关公司的市值也翻了好几倍。最后，极致规模的基础设施要求IDC更加高效节能，这将进一步推动光伏发电、风电等产业的发展。
侯震宇还对大模型产业发展趋势进行了展望。在应用层面，垂直领域的大模型应用已经开始加速。因为大模型本质上是提效的工具，只有深入行业里面才能真正发挥它的作用。在多模态层面，多模态正在大幅度改变我们现在的工作，也会让我们整个的应用场景会变的更加丰富。在价格层面，更加便宜且效果还不错的模型能够真的推动大模型的落地，能够让整个大模型应用繁荣起来，让产业真正进入正向循环。
本文来源：网易科技频道
责任编辑：
王凤枝_NT2541
