北京
分享至
1月18日讯，蚂蚁开源大模型技术Lookahead。Lookahead是一个推理加速框架，可以大幅提升大模型的推理效率，可将推理加速2-6倍。通过采用多分支策略，Lookahead能够在一次前向过程中生成更多的Token，进一步压榨硬件性能。（站长之家）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
