广东
智通财经APP获悉，AI云基础设施服务商Nebius(NBIS.US)宣布收购以色列人工智能初创公司Inferize，进一步增强其AI推理基础设施能力。Inferize专注于减少图形处理器(GPU)的闲置时间，并加快大型AI模型的部署速度。据以色列科技媒体Calcalist估计，此次交易金额介于1亿至1.5亿美元之间，但Nebius并未披露具体财务条款。
此次收购的核心在于提高GPU资源利用效率，尤其是在AI推理需求快速变化的情况下，帮助Nebius更迅速地调配计算资源，减少昂贵算力设备的闲置时间。
瞄准AI推理效率瓶颈 减少GPU闲置时间
Inferize的核心技术主要针对AI模型部署过程中的“冷启动”问题。冷启动是指AI模型在开始处理用户请求之前，需要完成模型加载及相关资源初始化的过程。当新的推理实例启动时，GPU可能需要等待模型加载完成才能正式投入运算，从而出现短暂的资源闲置。
这一问题在AI推理需求突然增加时尤其突出。随着用户请求激增，云服务商需要快速启动更多推理实例，但如果模型加载耗时较长，新增加的GPU资源便无法立即投入使用，影响服务响应速度和整体算力利用效率。
Inferize的技术旨在缩短这一等待过程，使新增推理资源能够更快投入运行，并让算力扩张更加贴近实际需求变化。
对于Nebius而言，这意味着公司有望在不必长期维持大量闲置GPU作为备用资源的情况下，更灵活地满足客户需求，提高现有基础设施的使用效率。
Nebius首席技术官Danila Shtan表示，高效运行AI推理服务不仅需要速度更快的GPU和经过优化的模型，整个系统还必须能够及时响应需求变化，包括在客户需求增加时迅速提供额外计算能力。他指出，Inferize不仅带来了加速这一过程的技术，还拥有一支在GPU系统方面经验丰富的工程团队。
Nebius计划将Inferize的工程师纳入旗下推理业务团队，并把相关技术整合至其AI推理平台Token Factory，以提升平台响应客户需求的能力，让现有基础设施承担更多实际计算任务。
Shtan同时表示，Inferize团队未来的贡献将不仅限于此次初步技术整合。
降低备用算力成本 提高AI基础设施运营效率
Inferize联合创始人兼首席执行官Guy Bortnikov表示，为了随时应对客户需求，云服务商通常需要维持一定规模的备用GPU资源，而这些处于待命状态的算力设备本身就意味着额外成本。他指出，Inferize成立的目的正是减少这部分成本，而加入Nebius能够使相关技术直接应用于实际运营的AI云平台。
在AI推理业务中，算力资源的调度效率直接关系到基础设施运营成本。由于GPU设备价格高昂，如果企业需要长期保留大量闲置算力以应对潜在需求高峰，就可能影响整体投资回报。
通过缩短模型启动时间、加快计算资源投入使用，Nebius有望在提高服务弹性的同时，减少对备用GPU容量的依赖。
值得注意的是，Bortnikov此前还曾联合创立计算基础设施优化软件公司Granulate。该公司主要开发提高计算资源运行效率的技术，并于2022年被英特尔(INTC.US)收购。这一背景也反映出Inferize团队在计算基础设施优化领域拥有相关经验。
接连收购AI技术公司 Nebius持续强化推理平台
本次收购Inferize，是Nebius近期围绕AI推理及模型优化领域展开的一系列收购行动之一。此前，Nebius已完成对Eigen AI的收购，交易价值达6.43亿美元。此外，公司近期还收购了AI技术公司Clarifai，但并未披露该交易的具体金额。
这些收购均旨在增强Nebius的AI推理和模型优化能力，进一步完善其AI基础设施服务。
与主要关注AI模型训练所需算力的基础设施投资不同，AI推理更加注重模型投入实际使用后的运行效率，包括请求处理速度、计算资源调度、模型部署以及单位算力成本等。
随着Nebius不断整合相关技术，其业务布局也正在从提供GPU计算资源，进一步延伸至提高AI模型实际运行效率的技术和服务。
此次收购Inferize将进一步补充Nebius在动态算力调度和模型快速部署方面的技术能力。不过，相关技术整合能够带来多大程度的成本节约和效率提升，仍有待后续运营表现验证。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
