网易首页 > 网易号 > 正文 申请入驻

Voyager SDK 1.9发布:AxScript模型与更快流水线

0
分享至


Axelera AI近日发布Voyager(R) 软件开发套件(SDK)v1.9版本,相比以往任何版本,此次更新将平台能力更多地交到开发者手中。如果你关注过9月发布的AxScript介绍文章,这次更新就是AxScript模型开始正式交付的版本。如果你跟踪过v1.6中Pipeline Builder的首次亮相,这次更新则让它进入Beta阶段,带来更快的流水线、原生Windows支持,以及以独立Python配方形式呈现的模型库。

1.9版本发布亮点

三大核心亮点:

AxScript作为Axelera AI平台的新编程语言,配合新的大语言模型、视觉语言模型(VLM)和视觉Transformer(ViT),以AxScript模型形式交付

通过升级后的Pipeline Builder构建更快的流水线,现已原生支持Windows

模型库中的模型提供独立Python配方

此版本的其他新特性包括:

AxGraph,面向生成式AI和Transformer模型的全新实验性MLIR图编译器

可记录完整流水线的便携式.axe格式

新增任务类型:RetinaFace人脸检测、YOLACT实例分割以及YOLO26单目深度估计

Pipeline Builder API中的预处理内核融合及性能提升

基于Vulkan的渲染(现为默认渲染器),并支持Windows上的追踪器

Pipeline Builder中的多流调度、无GIL限制的多线程扩展,以及全新的逐模型性能分析器

运行时中全新的Executor V2(Beta版),支持同步和异步两种执行模式

新产品命名:Axelera Embedded 110m / 113m / 111c、Axelera Edge 130p / 232p,以及Axelera Server 150p,取代原有的Metis板卡命名

AxScript模型:在Axelera AIPU上运行生成式AI与Transformer

AxScript是我们在此前文章中介绍的基于Python的领域专用语言,它让开发者能够在较低层级对我们的芯片进行编程,提供高度的可编程性、控制力和灵活性。先行客户已经通过AxScript实现模型创造了大量价值;Voyager SDK 1.9正是让更多开发者开始受益的版本。

AxScript模型以代码形式交付,因此你可以准确了解每个模型在我们编程模型中的实现方式和运行方式。你还可以复用这些代码,根据自身需求进行修改和适配。相关代码位于model_axscript/目录下,每个模型对应一个Python软件包,其中包含全部代码和内核,AxScript语言规范与指南则收录在我们的文档中。

此版本提供一系列生成式AI和基于Transformer的模型,包括大语言模型、视觉语言模型和视觉Transformer,并为每个系列中的多个前沿模型提供支持。

更多信息可参见发布说明。

Pipeline Builder:更快、更强大,并支持Windows

v1.6中引入的Pipeline Builder API让开发者能够以可组合的Python代码定义整个推理流水线,并在同一Python编程单元中完成构建和执行。在v1.9中,Pipeline Builder API进入Beta阶段,并带来新特性和性能提升。例如,在基于Yolo的检测模型上,使用Pipeline Builder API构建的流水线,对于中型(m)、大型(l)和超大型(x)模型变体,现已能达到与传统基于YAML的流水线相同的性能,而后续版本的进一步改进也将使小型(s)和超小型(n)变体达到相同水平。

Pipeline Builder API让代码变得非常简洁、易读且易于维护,诸如允许用户自带后处理内核等新特性也带来了极大灵活性。例如,使用自定义内核实现后处理的Yolov8流水线可以这样构建:

pipeline = op.seq(

op.color_convert(dst='RGB'),

op.letterbox(width=640, height=640),

op.to_tensor(),

axm_path是已编译模型的路径

op.load(str(axm_path), using_postamble=POSTAMBLE, device_config=DEVICE_CONFIG),

op.decode_detections(algo='yolov8', num_classes=80),

op.nms(),

op.to_image_space(),

op.ax_detection(class_id_type=op.CocoClasses),

for _frame, results in pipeline.stream(video, max_in_flight=1):

显示检测结果 print(display.format_objects(results))

值得关注的新特性和改进包括:

全新融合通路将预处理整合为单一融合OpenCL内核,速度比OpenCV快达10倍

新的调度器默认设置实现了更高吞吐量(例如Yolov8n提升81%)

便携式.axe格式可完整记录一个流水线,方便打包与交接

内核操作符可跨线程扩展,不再受Python GIL限制而串行化:一个8线程预处理工作负载的扩展效率从0.2倍提升至7.8倍,零拷贝缓冲区导入使1080p和4K图像缩放至640×640的速度提升3倍

全新性能分析器会将每个操作符归属到对应模型及其角色,区分实际工作时间与等待时间,并报告设备占用率和处理深度

新增任务类型和操作符包括RetinaFace人脸检测、YOLACT实例分割、快速NMS算法、针对每个已交付检测头的解码器,以及透视和桶形失真校正

实时数据源保留最新帧而非滞后处理,文件可按选定速率回放,Vulkan成为默认渲染器,低延迟预览可提前于推理运行

原生Windows支持。Pipeline Builder现已通过axelera-runtime2的MSVC win_amd64版本,在Windows上原生运行,支持Python 3.10至3.14版本,包含基于Vulkan的渲染器,并支持追踪器。可在Linux或WSL2上完成编译,然后在Windows上原生运行流水线。

模型库配方:一个模型对应一个Python文件

模型库现以model_recipes/目录下独立Python配方的形式交付。在v1.8中以Alpha版本引入的Python模型库(axzoo),现已升级为Beta版本,并成为构建、运行和评估模型的主要方式。基于YAML的模型库仍在v1.9中保留并继续得到支持,但从下一版本开始,新模型将只添加到axzoo中。

每个配方都是一个独立完整的文件,展示了生产部署的完整路径:

校准

量化

使用模型调优设置进行编译

端到端推理流水线,通过Pipeline Builder以几行代码完成连接

塑造我们公开数据的每一项设置,都是你可以阅读和修改的一行代码。

运行它、测量它、复现它。运行一个配方即可立即获得吞吐量和渲染结果窗口。添加–eval参数(通过pip install axelera-zoo[eval]安装)即可在我们用于生成数据的同一评分路径上复现公开的准确率数据。

三条命令即可覆盖整个工作流:

axzoo list 显示目录列表

axzoo info显示某个模型的上游来源及导出方式

axzoo fork将配方、配置或导出脚本复制到你自己的项目中,让参考模型成为你自有权重的起点

完整配方列表请参见发布说明。

完整的发布说明、文档和技术支持,请访问Axelera AI客户门户。

立即体验

通过pip安装现已成为推荐方式。与v1.8相同,完整SDK安装需要同时安装axelera-devkit[all]和axelera-rt两个软件包:

安装软件包 pip install –extra-index-url https://software.axelera.ai/artifactory/api/pypi/axelera-pypi/simple axelera-rt axelera-devkit[all] make operators

借助Axelera Wingman进行构建

你可以借助Axelera Wingman——我们为Voyager SDK打造的智能体伙伴——来运用此版本的全部特性。它基于Voyager SDK知识库构建,并持续同步最新的软件更新和文档,因此从发布首日起即可支持v1.9版本。

用自然语言描述你想要构建的内容,Axelera Wingman就会将其转化为可运行的AI:构建Axelera流水线、在真实硬件上运行,并与你共同迭代。无论你想探索新的模型配方、搭建Pipeline Builder流水线,还是了解新的AxScript模型,Axelera Wingman都能帮你找到切入点。

立即启动Axelera Wingman亲自体验。该服务完全免费,你可以通过社区注册账户。

我们非常期待看到你用它构建出的作品!欢迎在评论区留言,或在Axelera社区分享你的项目。

Q&A

Q1:AxScript是什么?

A:AxScript是Axelera AI推出的基于Python的领域专用编程语言,让开发者能够在较低层级对Axelera芯片进行编程,提供高度可编程性、控制力和灵活性,目前已支持大语言模型、视觉语言模型和视觉Transformer等模型的实现。

Q2:Pipeline Builder在v1.9版本中有哪些提升?

A:Pipeline Builder API在v1.9中进入Beta阶段,带来预处理内核融合、更高默认吞吐量、跨线程扩展能力、新的性能分析器,以及原生Windows支持等多项改进,部分Yolo模型性能已可与传统YAML流水线持平。

Q3:如何使用Axelera Wingman构建AI应用?

A:用户只需用自然语言描述想要构建的内容,Axelera Wingman就能将其转化为可运行的AI,自动构建Axelera流水线、在真实硬件上运行并与用户共同迭代,该服务免费,可通过社区注册账户使用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
北京今天下午至明天将有明显降雨 过程累计雨量可达大雨

北京今天下午至明天将有明显降雨 过程累计雨量可达大雨

环球网资讯
2026-10-16 07:47:49
苹果突然宣布国行 iPhone 18 Pro 全系列降价!

苹果突然宣布国行 iPhone 18 Pro 全系列降价!

XCiOS俱乐部
2026-10-15 15:35:31
当兵的嘴也太严了,兵检这么夸张吗?网友:尴尬到当场圆寂!

当兵的嘴也太严了,兵检这么夸张吗?网友:尴尬到当场圆寂!

夜深爱杂谈
2026-10-15 19:23:43
“田馥甄我不配唱歌给你听”登上热搜!

“田馥甄我不配唱歌给你听”登上热搜!

韩小娱
2026-10-14 12:04:51
河南12岁男孩扶车27次获赠三套试卷,最新进展:车主称不追责,祝他考上清华;小孩哥表情亮了:我一定不会忘了你

河南12岁男孩扶车27次获赠三套试卷,最新进展:车主称不追责,祝他考上清华;小孩哥表情亮了:我一定不会忘了你

大风新闻
2026-10-16 10:59:27
孙俪为68岁母亲庆生!扎着丸子头气质出众,站在孙俪身旁宛如姐妹

孙俪为68岁母亲庆生!扎着丸子头气质出众,站在孙俪身旁宛如姐妹

东方不败然多多
2026-10-16 08:07:03
法国变天了!勒庞当众表态:我一上台,乌克兰一分钱也别想拿到!

法国变天了!勒庞当众表态:我一上台,乌克兰一分钱也别想拿到!

地球记
2026-10-15 20:25:59
孙怡和董子健的新瓜,炸得很突然

孙怡和董子健的新瓜,炸得很突然

黎兜兜
2026-10-14 08:08:02
曹兴诚突然喊话别辩论了,媒体人揭猫腻:沈伯洋被吓到了

曹兴诚突然喊话别辩论了,媒体人揭猫腻:沈伯洋被吓到了

海峡导报社
2026-10-16 07:46:03
CBA揭幕战今晚开打,贺希宁VS拉塞尔,看点十足

CBA揭幕战今晚开打,贺希宁VS拉塞尔,看点十足

孤影来客
2026-10-16 13:34:15
中央5台直播CBA时间表:明天10月17日CCTV5直播,广厦VS山西

中央5台直播CBA时间表:明天10月17日CCTV5直播,广厦VS山西

薇说体育
2026-10-16 09:20:04
铁路车次编排将调整 更高时速动车组新增X字头

铁路车次编排将调整 更高时速动车组新增X字头

每日经济新闻
2026-10-16 11:45:05
邓光荣走了,曾江走了,谢贤走了,香港影坛四大传奇只有他还活着

邓光荣走了,曾江走了,谢贤走了,香港影坛四大传奇只有他还活着

人间无味啊
2026-10-16 08:34:40
穿1495英镑的大衣访问贫民区,梅根的奢华行头被质疑,挨批了

穿1495英镑的大衣访问贫民区,梅根的奢华行头被质疑,挨批了

毒舌小红帽
2026-10-16 11:34:37
长江的"哭泣"!巨型鱤鱼在长江泛滥,十年禁渔却养虎为患?

长江的"哭泣"!巨型鱤鱼在长江泛滥,十年禁渔却养虎为患?

遁走的两轮
2026-09-23 08:17:48
苹果突然官宣:10月20日,正式开启降价!

苹果突然官宣:10月20日,正式开启降价!

科技堡垒
2026-10-15 15:39:34
首批iPhone 18 Pro翻车?用户吐槽勃艮第酒红机身氧化褪色惨不忍睹

首批iPhone 18 Pro翻车?用户吐槽勃艮第酒红机身氧化褪色惨不忍睹

TechWeb
2026-10-15 16:17:23
外国小朋友冲上地铁父母没跟上,急得大哭,乘客纷纷上前温柔安抚;北京地铁:小孩已在工作人员帮助下,被其父母平安接走

外国小朋友冲上地铁父母没跟上,急得大哭,乘客纷纷上前温柔安抚;北京地铁:小孩已在工作人员帮助下,被其父母平安接走

河南交通广播1041
2026-10-16 10:42:17
彻底躺平:鸽了三年的PDD越休越懒!基本告别直播舞台,撑伞出席卢本伟求婚…

彻底躺平:鸽了三年的PDD越休越懒!基本告别直播舞台,撑伞出席卢本伟求婚…

动物奇奇怪怪
2026-10-16 02:40:46
巴西是我去过60个国家里,唯一一个发誓绝不去第二次的地方

巴西是我去过60个国家里,唯一一个发誓绝不去第二次的地方

千秋文化
2026-05-08 10:14:04
2026-10-16 14:15:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
22588文章数 49737关注度
往期回顾 全部

科技要闻

杨天若院士:AI是中国弯道超车的机会

头条要闻

92岁老人夺世界冠军:仅中国队参赛 走到终点都是金牌

头条要闻

92岁老人夺世界冠军:仅中国队参赛 走到终点都是金牌

体育要闻

工资一分不要,曼联名将想把母队带回西甲

娱乐要闻

徐艺洋官宣生子,完全看不出生过宝宝

财经要闻

特斯拉“飞”起来了!意向金33.2万元

汽车要闻

年轻人专属的大五座 小鹏MONA L05预售16.98万起

态度原创

房产
教育
游戏
亲子
公开课

房产要闻

整片大征收!三亚,又一座千亿新城来了!

教育要闻

怎样才算「精读」一篇文章?

前守望总监"姐夫"彻底切割OW!离职后再也不看

亲子要闻

昊泽三步法解决孩子厌学复学率95%

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版