网易首页 > 网易号 > 正文 申请入驻

企业Agent测试总翻车?有人造了家假公司给它练手

0
分享至

你没法拿一家真公司的数据,去安全地测试企业级Agent。Eon团队的做法是:既然真公司不能碰,那就造一家假的给它用。

Era今天上线,免费。你描述一家公司,它就把这家公司生成出来,写进Salesforce、Zendesk、Jira、Slack和Gong里,背后是厂商兼容的MCP和REST接口。换句话说,Agent面对的不是几张mock表,而是一整套像真的一样的企业环境。


企业Agent测试的三个老坑

Rohan Paul在X上把问题拆得很清楚:企业Agent通常只在三种环境里被测——mock、窄口径的合成数据集,或者生产环境。这三种各自藏着不同的东西。

mock藏的是真实复杂度。你mock出来的接口永远比真系统干净,Agent在mock里跑通,不代表它在真实工单流转里不迷路。

窄口径合成数据集藏的是覆盖面。数据是造出来的,但只覆盖了你想测的那一小块,边界情况全被绕过去了。

生产环境藏的是风险。你拿真客户数据测一个还没验证过的Agent,出了问题不是回滚一行代码就能解决的。

Era想当第四种选项。

为什么它的判分不需要人来当裁判

Era最值得看的一点,是判分方式。

因为Era写下了每一条记录,所以每个问题的确切答案可以用代码算出来,不需要语言模型参与。这意味着打分环节既不需要人工,也不需要模型当裁判。

这一点为什么重要?企业Agent的评测长期卡在"谁来判对错"上。用模型判分,判分本身就不稳定;用人判分,成本高且不可复现。Era把答案的ground truth握在自己手里,评测就从主观演示变成了可复现的基准。

Rohan Paul也点了这一层:确定性的判分部分尤其有意思。如果你能重置同一个企业状态、拿到确切的真实答案,Agent评测就更接近可复现的benchmark,而不是一场主观demo。

重置、换模型、再跑一遍

Era的另一个动作是让开发者能重置这家公司,换一个模型或换一段prompt,然后重跑完全相同的任务。

这个循环解决的是一个很实际的问题:在早先的失败上做post-training,到底有没有帮上忙?

没有可重置的环境,这个问题没法干净地回答——每次重跑,环境都变了,你分不清是模型变好了还是任务变简单了。Era把企业状态固定住,变量就只剩模型和prompt。

Rohan Paul提到,能换模型和prompt再重跑,这件事本身就很有价值。

还没解决的两个问题

Rohan Paul也提了两个开放问题,值得摆出来。

第一个:一个任务能不能有一个Agent不被允许看到的已知答案?如果Agent正确地表示自己没有权限访问,给它打分,会和"它有没有找到正确记录"形成互补。这测的是另一类能力——知道自己不知道什么。

第二个:测试改进时,能不能把整段公司历史留出来?重放同一间办公室有用,但Agent终究得在别的地方活过第一天。

这两个问题Era目前没有给出答案,但它们指向的是同一个方向:企业Agent的评测,正在从"跑个demo看看"往"可复现、可对比、可重置"上走。

Era覆盖的系统包括Salesforce、Slack、Jira、Zendesk、Gong和Deel。你描述一家公司,它生成一家公司,然后你在里面反复折腾你的Agent——不用碰任何真实客户的数据。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
随着冯翊新1-4,WTT中国大满贯男单4强已诞生1席:世界第1在列

随着冯翊新1-4,WTT中国大满贯男单4强已诞生1席:世界第1在列

侧身凌空斩
2026-10-09 13:07:52
中国断供稀土5个多月,日本工厂无一停产,是真摆脱了还是在硬撑

中国断供稀土5个多月,日本工厂无一停产,是真摆脱了还是在硬撑

经纬戎韬
2026-10-09 00:05:39
多位尊界V800车主实测刹车踏板:全力反复踩踏 踏板均未出现断裂

多位尊界V800车主实测刹车踏板:全力反复踩踏 踏板均未出现断裂

快科技
2026-10-09 10:46:07
广东省委:坚决拥护党中央决定

广东省委:坚决拥护党中央决定

新京报政事儿
2026-10-09 13:42:07
C罗发声明已48小时,0队友为其点赞,葡媒:足协要求他们不得介入

C罗发声明已48小时,0队友为其点赞,葡媒:足协要求他们不得介入

风过乡
2026-10-09 06:13:56
公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

你在偷看谁
2026-10-08 19:57:01
湖人双杀国王:东契奇复出23分吃T 里夫斯仅8+8马穆19分

湖人双杀国王:东契奇复出23分吃T 里夫斯仅8+8马穆19分

醉卧浮生
2026-10-09 13:21:16
李玮锋被停职下课!记者:单方面通知解约,没有客套分手,事出反常

李玮锋被停职下课!记者:单方面通知解约,没有客套分手,事出反常

足球大腕
2026-10-09 12:45:44
太过分了!浙江好心顾客心疼骑手打赏20元,骑手却在群里编造低俗语言调侃,引发众怒

太过分了!浙江好心顾客心疼骑手打赏20元,骑手却在群里编造低俗语言调侃,引发众怒

火山詩话
2026-10-09 12:03:30
“父亲开大奔,才能养出这种女儿”,浙大女孩开学一幕火了,长相普通但气质一流

“父亲开大奔,才能养出这种女儿”,浙大女孩开学一幕火了,长相普通但气质一流

知晓科普
2026-10-09 09:34:31
“新郎结婚当天看病离世”逝者姐姐发声:弟弟因喉咙痛和呕吐,婚礼结束后去医院输液,一个多小时后家人得知他进了抢救室

“新郎结婚当天看病离世”逝者姐姐发声:弟弟因喉咙痛和呕吐,婚礼结束后去医院输液,一个多小时后家人得知他进了抢救室

极目新闻
2026-10-09 13:00:46
山东一女子在垃圾桶里捡到72张5元纸币,有折叠有染色,疑似被做成花束,耗时一个半小时拆开;这钱能花吗?

山东一女子在垃圾桶里捡到72张5元纸币,有折叠有染色,疑似被做成花束,耗时一个半小时拆开;这钱能花吗?

环球网资讯
2026-10-09 14:39:23
对普通民众来说,比疫情更可怕的是在过度恐慌中把自己的正当权利拱手让出

对普通民众来说,比疫情更可怕的是在过度恐慌中把自己的正当权利拱手让出

壹家言
2026-10-09 10:25:34
高市早苗公开反对特朗普,称不会将AI改名为SI,此前特朗普称任何继续使用“AI”一词而非“SI”的都是敌人

高市早苗公开反对特朗普,称不会将AI改名为SI,此前特朗普称任何继续使用“AI”一词而非“SI”的都是敌人

极目新闻
2026-10-09 13:50:37
高三老师面相吓到网友,堪称“骨灰级别”,就算这样也舍不得化妆

高三老师面相吓到网友,堪称“骨灰级别”,就算这样也舍不得化妆

世界圈
2026-10-08 09:21:41
陈雪军从福建赴任重庆

陈雪军从福建赴任重庆

黄河新闻网吕梁
2026-10-07 08:08:12
新疆维吾尔自治区政府原副主席陈伟俊被公诉,曾被批“毫无纪法观念,贪婪无度”

新疆维吾尔自治区政府原副主席陈伟俊被公诉,曾被批“毫无纪法观念,贪婪无度”

界面新闻
2026-10-09 10:21:55
广西一女子买牛肉丸被商家误会逃单并公开监控 当事人:群内遭指责,脸看得一清二楚

广西一女子买牛肉丸被商家误会逃单并公开监控 当事人:群内遭指责,脸看得一清二楚

封面新闻
2026-10-08 19:29:05
不可思议!网传华中某高校强制6名女学生机场无偿接待留学生,辅导员上门讲集体荣誉,学生据理力争改写旧惯例

不可思议!网传华中某高校强制6名女学生机场无偿接待留学生,辅导员上门讲集体荣誉,学生据理力争改写旧惯例

火山詩话
2026-10-09 07:23:16
全球最大独立 AI 原生影视公司,要打造「AI 版 Disney」

全球最大独立 AI 原生影视公司,要打造「AI 版 Disney」

爱范儿
2026-10-09 14:12:49
2026-10-09 15:48:49
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
181文章数 75关注度
往期回顾 全部

科技要闻

字节"干扰模型训练"实习生融资近2亿元

头条要闻

岩屋毅:就日方撤回涉台谬论提了建议 被中方强硬拒绝

头条要闻

岩屋毅:就日方撤回涉台谬论提了建议 被中方强硬拒绝

体育要闻

30天30队·鹈鹕:胖虎又一年“如果”

娱乐要闻

蔡康永回应,装都不装了!

财经要闻

央行为何发布关于人民币汇率的政策立场

汽车要闻

不想改车又不想撞衫 来看看小鹏P7+的黑武士版

态度原创

手机
房产
数码
本地
公开课

手机要闻

安卓PS3模拟器ARMSX3登陆谷歌Play商店:最佳配置需高通骁龙8至尊版

房产要闻

中旅投资:以首发经济作答,定义人工冲浪产业的中国方案

数码要闻

极米记得AI显示眼镜MemoMind One超前预约开启

本地新闻

转型再出发 奋勇打头阵

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版