网易首页 > 网易号 > 正文 申请入驻

GPT-6 Astra也会「看错」流程图? Einsia AI发布PPTBench,视觉编程还有多远?

0
分享至

Coding Agent 正在从屏幕里的终端世界走向屏幕外的物理世界。

过去,Agent 面对的主要是文本:给它一个任务,它通过调用工具、修改代码、运行测试,最终交付软件。整个过程,本质上都发生在字符串之间。

但如今,越来越多的任务开始将「视觉世界本身作为输入」

一幅流程图、一张网页设计稿、一个 3D 场景草图,甚至一整页 PPT,都可以成为 Agent 需要理解并用代码重建的目标。于是,Coding Agent 正在面临一项新的考验:

「Visual Coding」—— 看懂一个视觉目标,并把它转化为可执行、可编辑的代码。

这看起来只是多了一层视觉输入,实际上却引入了一个全新的挑战:在保证代码能运行的基础上,Agent 必须还要从视觉输入中理解对象、结构、空间关系和语义,再把这些信息准确地编码进程序。

那么,如何才能既看清 Agent 在 Visual Coding 上走到了哪一步,又推动它继续向前?

一个好的测试载体,既要有足够丰富的视觉结构,又要能够被程序化地表达和编辑。

PPT 恰好满足了这两个条件。一页 PPT 不是一张简单的图片,而是由文本、形状、连接线、分组和空间布局共同组成的可编辑对象集合。它既保留了视觉世界中的结构,又给出了一个天然的程序化表达空间。视觉上的相似,并不意味着语义上的正确。 一条箭头接错节点,流程关系就变了;一个小节点被漏掉,整个过程的含义也可能随之改变。

这也正是 Einsia AI 旗下 Navers Lab 最新发布的PPTBench想回答的问题:

「今天的 AI Agent,能不能真正看懂视觉目标,并把它准确转化成代码?」



  • 论文题目:PPTBench: Can Coding Agents Reconstruct the Visual World through Structured, Editable Slides
  • 项目主页:https://lab.einsia.ai/pptbench
  • GitHub:https://github.com/Einsia/PPTBench
  • arXiv: https://arxiv.org/abs/2609.29718
  • AgentGit(查看部分评测Session): https://agent-git.com/@einsia/ppt-bench

当 Agent 不再只是写代码,而是要理解 “图在说什么”

PPTBench 的任务来自真实科学论文中的流程图和架构图。研究团队从中构建了500 个任务,覆盖系统与软件、人工智能、计算机视觉、语言与语音、量子与基础物理、天文、机器人、生物医学等13 个领域,同时包含多面板图、层级结构、重复网格、复杂连线和文字密集等不同类型的布局。



对 Agent 来说,任务非常直接:

给定一张流程图,用代码把它重建成一页 PowerPoint。

输入是一张确定的视觉目标,输出则是一份真正由代码生成的、可编辑的 PPTX。Agent 不能简单地把原图贴进幻灯片,而需要用文本、形状、连接线等原生 PowerPoint 对象,把看到的内容重新表达出来。

真正困难的地方,也恰恰藏在这里。

Agent 首先要看懂这张图:识别其中有哪些节点、文字和关系,理解连接线从哪里出发、指向哪里;然后要把看懂的内容写出来:将这些结构准确地映射到二维画布,处理节点大小、间距、文字和连线的位置;最后还要交付一个正确的程序化产物:生成的 PPTX 能够正常打开,里面的内容也必须是真正可编辑的对象。

换句话说,这不是简单地 “把一张图画出来”。

它要求 Agent 同时解决三个问题:看懂、写对、交付。

流程语义错了,图表达的就是另一个算法;几何位置错了,虽然还能看懂,却失去了原图的精确结构;产物本身出了问题,则连后续查看和编辑都无法进行。

也正因为如此,一个看似简单的 “照着图做 PPT”,实际上成为了检验 Visual Coding 能力的一道综合测试。



输入:一张流程图



输出:Agent重建成为可编辑的PPT

Agentic Judge:让 “看懂” 和 “做对” 都能被评测

一张还原出来的 PPT,可能和原图看上去几乎一模一样。但如果它本质上只是一张截图,就无法真正编辑;如果箭头方向反了,流程表达的语义也随之改变;如果出现大面积渲染错误、文字溢出或严重遮挡,整张幻灯片甚至失去了基本的可读性。

更复杂的是,PPT 中的同一个视觉元素,往往可以有完全不同的对象表达方式

一个田字格可以由四个方块组成,也可以由一个方块和两条直线组成;一个对勾可以由两条直线拼成,也可以由一个多边形直接绘制。对于传统的规则系统来说,很难穷举这些 “一对多” 的表达方式。

PPTBench 因此设计了一套Agentic Judge。它不要求 Agent 按照某一种固定的对象树来重建,而是从最终交付的 PPT 出发,逐层判断它是否真正完成了任务。

首先是一个Artifact Gate,判断产物是否具备进入正式评测的资格。Judge 会检查 PPTX 能否正常解析和渲染,是否生成了单页幻灯片,是否包含足够的原生可编辑对象,以及是否存在直接贴图等不符合要求的情况。如果产物本身无效,就直接判为 0 分。



通过 Gate 后,Agentic Judge 再依次完成三个阶段的评测。

Stage 1:先判断 “做没做对”

这一阶段关注的是最核心的问题:Agent 重建出来的图,是否还在表达原来的过程。Judge 会从整体上理解参考图和生成结果,判断关键关系有没有被正确还原。只要流程本身发生了改变,即使视觉上再接近,也不能算正确。

Stage 2:再判断 “能不能看”

语义正确之后,Judge 进一步检查生成结果是否具备基本的可读性。严重的渲染问题或排版错误,可能让一张语义正确的 PPT 依然无法使用。这一阶段主要排除这类影响整体阅读的错误。

Stage 3:最后判断 “有多像”

通过前两关之后,Judge 才进入细节层面的比较。它会进一步分析整体布局和局部视觉差异,并把发现的问题结构化记录下来。这里不再要求两份 PPT 使用完全相同的对象表达方式,而是关注最终呈现出来的视觉结果是否足够接近。

总结来说,Agentic Judge 并不是简单地问 “这张 PPT 像不像原图”,而是依次回答三个问题:它做对了吗?它能看吗?它还差多少?

Agent 距离稳定复现 PPT 还有多远?

研究团队测试了 10 个模型、36 种配置,每种配置完成同一组 500 个任务。每份结果经过三轮评审,累计得到 54,000 份评审记录。

GPT-6 Astra High77.34 分位居榜首。在 500 个任务中,它全部生成了有效产物,80.8%同时通过语义和渲染检查。

其他参评模型中,Kimi K3 High表现最好,得分为GPT-5.6 Sol MaxQwen 3.8 Max XHigh分别得到分。

Astra 的领先比较明显,但即便是这一最优配置,也仍有近两成任务没能同时通过两道检查



这些分数背后,模型究竟在哪些环节出了问题?

视觉理解,远难于代码本身

模型还原一张 PPT 的难点,并不在于写出能被正确解析的文件;而是在于,这张文件里,到底是否表达了正确的含义。

在所有的份结果中,394 份(2.19%)未通过产物检查;随后,11526 份(占全部结果的 64.03%)因流程语义错误被拒绝。剩余 6080 份中,又有 365 份未通过渲染/文字门控,最终 5715 份(31.75%)进入细节评分。



流程图输入



Astra 6生成的结果,未通过语义门控

而在进入细节评分产物当中,文本与排版问题贡献了53.0%的细节扣分,局部图形占 34.3%,布局占 12.8%。失分最多的单项是文本意外换行。

这些问题又恰恰是文件代码本身无法直观体现的。一份生成 PPT 的脚本本身并不会告诉模型渲染出来的文字是否会在不应该出现的地方换行、是否会挤爆整个文本框;但在真正渲染出来的产物当中,这恰恰又是最明显的问题。



只有真正能够进行视觉审查与迭代的模型,才能够真正发现并且解决这些问题。

更多思考换来的是流程理解,而非细节重建

提高 reasoning effort,收益主要体现在更高的门控通过率。

GPT-6 Astra 从 Low 到 High,平均分由59.42 升至 77.34,通过全部门控的比例由63.0% 升至 80.8%,提高 17.8 个百分点;通过门控后的条件细节分仅由 94.32 升至 95.72。



但更多思考并不保证更高得分。Astra 五档的平均分依次为 Low、Medium、High、XHigh、Max。从 High 到 Max,门控通过率从 80.8% 降至 71.0%,尽管通过门控后的条件细节分升至 96.85,总分仍然下降。

这说明,思考深度带来的主要收益是让更多产物保留正确的流程,而细节精度的改善相对有限。Astra 在 High 达到最佳表现,也提醒我们:把 effort 调到最高档,或许并不是可靠的默认选择

「回头去看」,让模型的复现变得更好

模型构建 PPT 的过程和人类并不相同。

人类会把组件一个一个拼上去;而模型则会一次写出完整的 PPTX 生成脚本,再根据视觉反馈来调整。

分析模型的调用轨迹,论文发现:对自己的产物进行视觉检查次数更多的模型,往往得分更高



在解析了调用轨迹的 27 个配置中,模型审查轮数与得分的 Pearson 相关系数为;作为对比,修改轮数与得分的相关系数仅为

视觉审查让模型得到最直接的反馈,让模型对下一步要做什么有直接的判断:是调整节点间距,改变箭头流向,还是修复渲染问题。

而这,正是 Visual Coding 的核心:

「当模型能够自主决定何时需要观察,能够理解自己看到了什么,并且能够做出适合的修改,视觉任务就迈向了下一个里程碑。」

PPTBench 想回答的,不只是 “谁最强”

一张科学流程图不是装饰性的海报。它同时承载了过程语义、空间关系和大量局部细节:任何一个箭头的错位或反向、节点的缺失或交换,表达的流程就完全不同。

PPTBench 的实验表明,前沿 Agent 已经能够完成相当复杂的视觉重建。但从 “能够还原” 到 “稳定地还原正确”,中间仍然存在明显的距离。 语义理解是最主要的瓶颈,而当语义基本正确之后,文字、布局和局部细节又成为新的挑战。

因此,PPTBench 想测量的并不只是模型能不能做出一张 PPT,而是一个更基础的问题:

「当 Agent 看到一个视觉目标时,它能不能真正理解其中的结构,并把这种理解可靠地写进代码?」

这也是 Visual Coding 下一阶段真正需要解决的问题。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不用再羡慕深圳了!广西中小学明年春季学期起将推行统一校服款式

不用再羡慕深圳了!广西中小学明年春季学期起将推行统一校服款式

起喜电影
2026-09-30 07:52:10
中日会谈气氛凝重,王毅当面警告日高官:敢翻案,中日没有未来

中日会谈气氛凝重,王毅当面警告日高官:敢翻案,中日没有未来

军情观察家
2026-09-30 16:34:44
史上首次!2026年一季度全国无一省份实现财政自平衡

史上首次!2026年一季度全国无一省份实现财政自平衡

大江看潮
2026-07-09 08:13:10
年底想换新手机,建议直接“一步到位”,这3款能用到2031年!

年底想换新手机,建议直接“一步到位”,这3款能用到2031年!

小柱解说游戏
2026-09-30 02:55:39
越南刚把身家押上桌,回头一看,特朗普给中国留了两扇门

越南刚把身家押上桌,回头一看,特朗普给中国留了两扇门

纪史行者
2026-09-30 09:10:17
罕见!人民日报5分05秒视频缅怀刘欢,连称呼都变了 释放强烈信号

罕见!人民日报5分05秒视频缅怀刘欢,连称呼都变了 释放强烈信号

文刀贰
2026-09-29 17:03:19
刘欢走了遗产如何处置?妻女属第一顺序继承人,最值钱遗产是版权

刘欢走了遗产如何处置?妻女属第一顺序继承人,最值钱遗产是版权

糖逗在娱乐
2026-09-29 13:17:04
医生发现:糖尿病人过了七十三岁,基本都有这五现状,要坦然接受

医生发现:糖尿病人过了七十三岁,基本都有这五现状,要坦然接受

任医生聊健康
2026-09-30 16:20:12
网传东航一航班乘务员推餐车碰了下旅客手肘,小姑娘直接下跪道歉,还求着乘客踹她一脚?引发网友热议

网传东航一航班乘务员推餐车碰了下旅客手肘,小姑娘直接下跪道歉,还求着乘客踹她一脚?引发网友热议

王老师你还好吗
2026-09-30 02:37:07
台湾媒体人黄智贤终于露出了原型,全力帮助绿营助选!

台湾媒体人黄智贤终于露出了原型,全力帮助绿营助选!

总在茶余后
2026-09-30 15:39:02
王钰栋亚运首球,中国队自1986年来首次在亚运会攻破韩国队球门

王钰栋亚运首球,中国队自1986年来首次在亚运会攻破韩国队球门

懂球帝
2026-09-30 14:46:08
孙怡发文回应拿下最佳女演员:“收获一份意外的礼物,感恩遇见小美,感恩电影爱情笑话台前幕后所有工作人员,演员孙怡仍然在路上” ​

孙怡发文回应拿下最佳女演员:“收获一份意外的礼物,感恩遇见小美,感恩电影爱情笑话台前幕后所有工作人员,演员孙怡仍然在路上” ​

韩小娱
2026-09-30 10:55:29
“溜溜凳”检测罗生门:华谊检测否认出具报告,称网站系伪造,泰迪熊称“有转账、有收据”

“溜溜凳”检测罗生门:华谊检测否认出具报告,称网站系伪造,泰迪熊称“有转账、有收据”

蓝鲸新闻
2026-09-30 12:04:08
10月1日起施行,广东明确:外卖未封口或封口损坏,配送员有权拒绝配送,消费者有权拒收

10月1日起施行,广东明确:外卖未封口或封口损坏,配送员有权拒绝配送,消费者有权拒收

南方都市报
2026-09-30 12:59:32
不少家属事后悔断肠:老人在家走和医院走差别太大,早知道少踩坑

不少家属事后悔断肠:老人在家走和医院走差别太大,早知道少踩坑

鬼菜生活
2026-09-26 01:28:43
安洗莹创下10大女单新纪录!直言想要继续赢下去,完成零瑕疵夺冠

安洗莹创下10大女单新纪录!直言想要继续赢下去,完成零瑕疵夺冠

排球黄金眼
2026-09-30 09:51:35
巴菲特:世界上最厉害的人——说起床就起床,说做就做,说玩就玩,说收心就收心。拿得起,放得下

巴菲特:世界上最厉害的人——说起床就起床,说做就做,说玩就玩,说收心就收心。拿得起,放得下

杏花烟雨江南的碧园
2026-09-14 16:15:03
万科A跌停

万科A跌停

证券时报
2026-09-30 10:38:12
体制内领导到什么级别才能有独立办公室?

体制内领导到什么级别才能有独立办公室?

职场资深秘书
2026-09-30 12:19:43
唐斯训练营略显不悦!尼克斯仅报价四年2亿 需降薪7600万团队拒接受

唐斯训练营略显不悦!尼克斯仅报价四年2亿 需降薪7600万团队拒接受

颜小白的篮球梦
2026-09-30 13:09:11
2026-09-30 17:11:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14113文章数 142740关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

40年首球 中国U23男足1比2不敌韩国无缘亚运会决赛

头条要闻

40年首球 中国U23男足1比2不敌韩国无缘亚运会决赛

体育要闻

石雨豪:亚运金牌与背后的十年

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

中央财政首次贴息房贷 定向支持首套刚需

汽车要闻

真实力用“大考”亮出来 猛士X700开启预售 24.98万起

态度原创

旅游
数码
教育
家居
手机

旅游要闻

百券齐发,国庆陪你“象”出游!景区门票、零食券、茶饮券连抢10天

数码要闻

Marshall发布Bromley 150派对音箱:售价3999元

教育要闻

英国最新发布的中国大学排名:清北直逼全球前10,哈工大进步明显,南医大表现优异!

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

Counterpoint预测iPhone Duo年销量600万部!苹果一举拿下全球折叠屏25%份额

无障碍浏览 进入关怀版