网易首页 > 网易号 > 正文 申请入驻

手术视频大模型“术影”开源发布,助力术者从看画面到懂操作

0
分享至

3月24日,中国科学院香港创新研究院人工智能与机器人创新中心(CAIR)在香港科学园深圳分园发布“术影”SurgMotion手术视频大模型。该模型基于涵盖约1500万帧、超3658小时真实手术视频的SurgMotion-15M数据集进行训练,在17个国际权威手术AI基准上全面刷新最优纪录,标志着手术AI从“碎片化识别”向“通用化理解”的跨越式进化,为临床治疗、手术操作、医学教学及术后复盘提供有力支撑。




从“看画面”到“看懂操作”:视频原生架构的范式革命

“术影”手术视频大模型突破传统像素重建的局限,引入运动引导的隐空间预测机制,显著提升了模型对手术器械、解剖结构、交互动作等关键语义结构的理解能力。据CAIR研究员易东介绍,研究团队在V-JEPA架构基础上引入运动引导的隐空间预测、特征多样性保持和模型稳定性保持三项技术改进,让模型更专注学习手术视频中的运动和中高层语义信息,实现了更高效的自监督训练方法。



该模型支持13种人类主要器官、6大类手术理解任务,包括工作流理解、动作理解、深度估计、息肉分割、三元组识别、技能评估,尤其在手术流程识别、器械交互理解、精细动作建模等核心任务上大幅超越现有方法。其背后的SurgMotion-15M预训练数据集汇集了来自50个数据源、13个解剖区域的3658小时手术视频,涵盖腹腔镜、开腹、神经外科、眼科、耳鼻喉科等多专科场景,为模型提供了前所未有的多样性支撑。

赋能临床,开源共享:构建通用手术AI新生态

发布会上,香港大学深圳医院神经医学中心名誉顾问医师潘伟生教授展示了“术影”在神经外科培训领域的应用验证。拥有35年临床经验的潘伟生教授表示,香港大学深圳医院作为神经外科专科培训基地,一直致力于解决复杂手术教学中传统“师带徒”模式的标准化难题。此次验证的“术影”大模型在多中心临床数据中准确率高达90%,在公开的JIGSAWS手术技能评估数据集中,其评估误差降至最低的2.649,与专家评分的相关性高达0.770,性能远超同类模型。



中山大学附属第一医院呼吸与危重症医学科副主任廖槐教授则展示了该模型在呼吸介入治疗领域的应用。廖槐教授认为,医学学习需要多方面积累,医生在具备一定医学基础和能力之后再借助AI,可以提升工作效率。他特别提到,通过增强现实技术,模型可以自动生成初步报告、快速标记病灶,“你拍好一张图片,它会立刻分析出图片信息,并自动提炼出来,医生只需再审核即可”。

在测试中,结合中山一院真实的临床视频数据,呼吸介入治理流程识别达到85%左右的准确率。“这一技术能将经典手术中的关键信息提炼并结构化,让医疗更加同质化,帮助来自基层的医院、医生获得指引。”



CAIR主任刘宏斌研究员表示,此次发布的“术影”手术视频大模型全面开源,旨在助力构建大湾区AI医疗的智慧生态,研发始终以临床应用为核心目标。“开源是为了让更多生态人员参与其中,并且各自贡献力量。目前很多问题尚未解决,需要大家齐心协力完成这件事情。”他表示,未来AI系统应是一个大型具身智能框架,其中包含一个核心基座用于调动工具,而“术影”目前虽已覆盖13个领域,但仍有许多未解决的问题,希望更多机构能够使用这个模型,共同分享实际应用场景中的痛点和难点,推动底层技术的持续突破。

采写:南都N视频记者 王道斌

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这些东西,你敢在闲鱼买吗?

这些东西,你敢在闲鱼买吗?

闲搞机
2026-08-31 11:29:53
纪委朋友说真话:毁掉一个干部的,从来不是贪,而是这4个“怕”

纪委朋友说真话:毁掉一个干部的,从来不是贪,而是这4个“怕”

荷兰豆爱健康
2026-09-02 00:20:04
5488元!小米新机突然官宣:9月1日,全球发布

5488元!小米新机突然官宣:9月1日,全球发布

搞机小帝
2026-09-02 00:33:09
穆里尼奥:梅西退出国家队后,美洲杯和世界杯都将不再一样

穆里尼奥:梅西退出国家队后,美洲杯和世界杯都将不再一样

懂球帝
2026-09-01 05:49:04
1991年,江青在北京自杀,临终前留下最后一句话:主席,我爱你!

1991年,江青在北京自杀,临终前留下最后一句话:主席,我爱你!

南书房
2026-09-01 06:45:10
生死攸关之际,17国齐聚上合峰会,伊朗已看透,有中国坐镇乱不了

生死攸关之际,17国齐聚上合峰会,伊朗已看透,有中国坐镇乱不了

锅锅爱历史
2026-08-31 20:13:32
我老公40多岁的人,晚上折腾得比小伙子还凶,我偷偷跟闺蜜吐苦水,闺蜜白眼一翻:真是身在福中不知福,要不换我来

我老公40多岁的人,晚上折腾得比小伙子还凶,我偷偷跟闺蜜吐苦水,闺蜜白眼一翻:真是身在福中不知福,要不换我来

百晓史
2026-08-22 09:02:07
“典型的上梁不正下梁歪!”家长发视频炫耀,家里没有一个正常人!

“典型的上梁不正下梁歪!”家长发视频炫耀,家里没有一个正常人!

林林先生
2026-08-29 10:51:30
军统谷正文暮年感慨,台湾被捕地下党中唯张志忠是真男儿

军统谷正文暮年感慨,台湾被捕地下党中唯张志忠是真男儿

唠叨说历史
2026-06-12 15:20:26
男子未经同意在鱼塘钓鱼触碰高压线身亡,家属起诉供电公司、医院等索赔百万!判了

男子未经同意在鱼塘钓鱼触碰高压线身亡,家属起诉供电公司、医院等索赔百万!判了

红星新闻
2026-09-01 13:42:09
20年后,中国一半家庭将“绝户”:这场大洗牌无人能逃

20年后,中国一半家庭将“绝户”:这场大洗牌无人能逃

叮当当科技
2026-08-17 01:57:38
以下克上,张安达4-3英格兰名将,晋级斯诺克英国公开赛第三轮

以下克上,张安达4-3英格兰名将,晋级斯诺克英国公开赛第三轮

侧身凌空斩
2026-09-02 00:43:54
6笔压哨转会落地!总价超3亿,英超多队最后一夜疯狂补强

6笔压哨转会落地!总价超3亿,英超多队最后一夜疯狂补强

刘哥谈体育
2026-09-01 12:07:49
多家车企公布8月销量:零跑再破10万辆,小鹏领先理想、蔚来,小米超3万辆

多家车企公布8月销量:零跑再破10万辆,小鹏领先理想、蔚来,小米超3万辆

金融界
2026-09-01 16:12:57
高梓淇公开新恋情,首度携现任女友参加真人秀,女友出镜漂亮个高

高梓淇公开新恋情,首度携现任女友参加真人秀,女友出镜漂亮个高

晓銊就是我
2026-08-31 17:33:03
全场高喊赵勇下课!亚锦赛失奥运门票,女排输球真不怪队员

全场高喊赵勇下课!亚锦赛失奥运门票,女排输球真不怪队员

金毛爱女排
2026-09-01 07:42:46
现场视频!普京与伊朗总统会晤:俄罗斯与伊朗人民团结一致,共同对抗美国和以色列,仍将维持经济和贸易关系

现场视频!普京与伊朗总统会晤:俄罗斯与伊朗人民团结一致,共同对抗美国和以色列,仍将维持经济和贸易关系

每日经济新闻
2026-09-01 21:50:00
全球媒体都被震动!美国发生了一件动摇国本的大事,这次真下狠手

全球媒体都被震动!美国发生了一件动摇国本的大事,这次真下狠手

蜉蝣说
2026-08-28 16:47:46
菲方叫嚣破船绝不撤离!国防部不再忍让,不等对方闯礁就亮明底线

菲方叫嚣破船绝不撤离!国防部不再忍让,不等对方闯礁就亮明底线

墨羽怪谈
2026-09-02 00:54:37
把两箱人体尸块放进了火车站的安检机,这在全世界可能都从未发生过,2012年,他就这么干了

把两箱人体尸块放进了火车站的安检机,这在全世界可能都从未发生过,2012年,他就这么干了

法网恢恢
2026-08-31 23:36:05
2026-09-02 06:28:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
630560文章数 3590337关注度
往期回顾 全部

科技要闻

抖音突发推荐算法大面积错乱!

头条要闻

美国银行副总裁在纽约时代广场被刺身亡 年仅32岁

头条要闻

美国银行副总裁在纽约时代广场被刺身亡 年仅32岁

体育要闻

大爹杨瀚森,让中国男篮有了容错空间

娱乐要闻

孙宇晨破防,他无法接受孙割这个名字

财经要闻

"电梯亲热门"后 惠州首富给老婆转238亿

汽车要闻

山城试驾启源Q06 不光是智驾好用还有700km的续航

态度原创

艺术
本地
游戏
手机
公开课

艺术要闻

刘晓庆竟然还会画画?

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

DLSS 5普及后游戏优化没救了?玩家:还得说谢谢

手机要闻

库克发文告别苹果CEO一职,称对Apple社区的热爱永远不会改变

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版