北京
分享至
云天励飞在互动平台表示，公司推出的IPU-X6000加速卡，目前已经支持适配云天天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，并针对大模型推理任务设计，打造了一系列符合大模型演进趋势的统一工具链，包括分布式并行策略、基于硬件的流水线排布、先进的量化策略、多机并行的编译机制等，在同等条件下能够做到推理性能更高、消耗成本更低。
本文源自：金融界AI电报
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
