网易首页 > 网易号 > 正文 申请入驻

老板已崩溃!AI员工因一句「周末好吗」狂聊200条,烧掉30刀停不下来

0
分享至

新智元报道

编辑:peter东

【新智元导读】记者Evan Ratliff讲述了他用AI创建一人公司时遇到的种种令人哭笑不得的事,通过亲身经历,指出奥特曼当年说的一人公司,在当下还差得远。

2024年,OpenAI创始人奥特曼曾说,。

Anthropic CEO警告:未来五年内AI将消灭半数入门级白领工作。

然而现实真的是这样吗?

缺少边界感的AI员工,不知何时停下来

HurumoAI是一家除了创始人是人类,其它员工均为AI智能体的初创公司。

创始人Evan Ratliff使用Lindy等AI助手平台,为每个AI员工配置了独立邮箱、Slack和电话。

一开始,他为技术的进步大感震撼,AI员工能自主沟通、编写代码、制作电子表格,甚至设计出名为「Sloth Surf」的拖延症应用,目前的免费测试已吸引数千名用户。

但在此过程中,Evan Ratliff发现AI员工由于缺少常识,表现得没有边界感。

例如,有一次Ratliff随口问了AI员工一句「周末过得如何?」,就引发了AI员工在Slack上持续互聊数小时,在闲聊200条消息,消耗了30美元API费用后仍无法自动停止,直到Ratliff不得不主动干预,用全大写的指令叫AI员工停下来。

然而,这还没完。

Ratliff的指令会再次触发某位AI员工回应。

这位AI员工会说,「哦,管理员说别说了。」然后,它又开始就周末过得怎么样说个没完。

这样的场景实际上在所有情况中都有体现,你让AI员工开始做某事,然后突然意识到,「哦,我没有正确指示它们在到达某一点时停止。」

或者它们直接忽略停止的指令,然后这可以持续几小时、几天,直到你使用的平台上的钱用完。

由于没有常识,缺少边界感的AI员工虽然能执行任务,但更多的时候,他们似乎在什么都不做、完全静止和像之前描述的那种狂热活动之间摇摆。

它们能完成所有这些任务,但通常需要人下达命令。

若是试着让它们互相触发。AI员工会互相打电话、发Slack、发邮件、发日历邀请,浪费大量的token来表演工作。

但这会造成不想要的混乱狂热,所以管理AI员工需要一种平衡,既要让它们做点事,又要防止它们做得太多。

未来的工作

可能「一边做事,一边看AI」

AI员工这么话痨,再大的上下文窗口也不够。

这就需要外部记忆,例如依赖外部文档(如Google Doc)记录对话摘要。而这就需要由人来设置。

尽管HurumoAI标榜「全AI团队」,Ratliff坦言背后离不开人类支持。

斯坦福大二计算机学生Maddie Buzek帮助他搭建技术架构,解决多平台集成、记忆存储等难题。

Ratliff将其比喻为:「我开了家餐厅,Maddie负责设计建造,而我每天运营它。」

即便搞定了外部记忆,当前的AI在编码、数据整理等具体、可量化的任务中表现较好;但在需要主观判断、长期协作或开放性沟通的场景中,效果大打折扣。

举例来说,如果你让AI员工做了一个网站,它们表现很好。然后,若是你试图让AI员工在这个网站上再增加一些功能,它们的表现就越来越差。生成的结果变得越来越混乱、也更难管理。

这是因为它们对世界没有普遍意义上的认知,甚至对自身也没有认知。它们不知道自己能做什么、不能做什么。

此外,一个常见的问题是,它们会对自己做过的事情撒谎。

AI员工会说:「我做了这个测试。」但事实上毫无记录。

之所以这样,是由于大模型普遍会阿谀奉承,它们想向你表达一个积极的结果。因此,它们常常会说它们做了其实没做的事情。

说完了AI员工这些问题,回到过去的承诺:用智能体取代人类员工。

事实上,很多公司已经这么做了。

但Evan Ratliff根据自己的经验预测,在未来一年,某个大型公司因为给AI智能体太多自主权而彻底陷入灾难。

当下AI员工的表现,可以类比几年前的自动驾驶,适合高速巡航等有限场景,但离完全自主仍遥远。有了自动驾驶,司机在高速公路车道上可以把手从方向盘上拿开,或者让AI自动平行泊车。

今年早些时候在Google IO上,谷歌展示了一个叫Project Mariner的东西,它在后台进行一些相当有趣的网页浏览、购物、购买和处理,而你同时在电脑上做其他事情,然后你需要偶尔查看一下。这样的应用,比许多其他关于AI智能体的过度承诺,更有意义。

工作的未来也许是一边做自己的事,一边照看你的AI。就像现在你在上网时,电脑的后台还在执行其它任务,我们不需要时刻盯着这些任务,但的确在管理着这些任务。这也许不是坏事。在所有这些智能体中,我们能保留一点能动性是一件好事。

参考资料:

https://www.wired.com/story/uncanny-valley-podcast-what-happens-when-your-coworkers-are-ai-agents/

秒追ASI

⭐点赞、转发、在看一键三连⭐

点亮星标,锁定新智元极速推送!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不许武契奇东山再起?欧盟开出条件:反华加反俄,不然就踢出欧盟

不许武契奇东山再起?欧盟开出条件:反华加反俄,不然就踢出欧盟

小七七七七
2026-11-21 17:11:26
玄学提醒:你不必操心自己的命运

玄学提醒:你不必操心自己的命运

闻心品阁
2026-11-21 08:57:57
十二月份开始惊喜在路上!喜报频传,存款持续上涨的三大生肖!

十二月份开始惊喜在路上!喜报频传,存款持续上涨的三大生肖!

情感事聊
2026-11-21 14:37:32
“权贵们的新套路!”北理工裴轶的来时路被扒:和协和4+4竟是一个套路

“权贵们的新套路!”北理工裴轶的来时路被扒:和协和4+4竟是一个套路

妍妍教育日记
2026-10-05 10:10:15
670吨钢网架整体升空!北京昌平正在建一座特殊的飞机厂房

670吨钢网架整体升空!北京昌平正在建一座特殊的飞机厂房

今日搞笑分享
2026-11-21 12:50:58
常州市一栋236.5㎡的别墅拍卖,被人144万元拍下了

常州市一栋236.5㎡的别墅拍卖,被人144万元拍下了

天天话事
2026-11-21 09:42:53
霍建华《急诊室的奇迹》冲Netflix冠军 被问过气自嘲有红过吗?

霍建华《急诊室的奇迹》冲Netflix冠军 被问过气自嘲有红过吗?

达达哥
2026-11-21 10:50:09
10万级的M8,11月24日发布!根本没对手!

10万级的M8,11月24日发布!根本没对手!

电动内参
2026-11-21 17:50:30
美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

政知新媒体
2026-11-20 15:25:01
霍启山不选正值巅峰的章子怡,反而是娜然。不是他被美色迷住了,也不是家里反对,而是章子怡有新的选择

霍启山不选正值巅峰的章子怡,反而是娜然。不是他被美色迷住了,也不是家里反对,而是章子怡有新的选择

黎兜兜
2026-11-20 08:12:06
狂飙:俄军一夜发射超百枚导弹,其中两枚命中波兰领土!

狂飙:俄军一夜发射超百枚导弹,其中两枚命中波兰领土!

胜研集
2026-11-20 23:57:02
PS5 Pro涨至1.6万元,两天涨价2000元

PS5 Pro涨至1.6万元,两天涨价2000元

21世纪经济报道
2026-11-21 17:28:23
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
加拿大优衣库,又被中国女孩买爆了

加拿大优衣库,又被中国女孩买爆了

DT商业观察
2026-11-20 12:16:36
最高法新规明确:严格控制城区人民法庭设置

最高法新规明确:严格控制城区人民法庭设置

红星新闻
2026-11-20 16:09:03
下投男!文班亚马放弃扣篮,历史首见零距离跳投!

下投男!文班亚马放弃扣篮,历史首见零距离跳投!

篮球实录
2026-11-21 00:12:07
带病上阵!米切尔:我非常感激哈登站出来 我今天病得特别重。

带病上阵!米切尔:我非常感激哈登站出来 我今天病得特别重。

天光破云来
2026-11-21 12:47:03
给所有退休老人一个忠告:永远不要在子女面前,表现出这6种行为

给所有退休老人一个忠告:永远不要在子女面前,表现出这6种行为

风起见你
2026-10-21 01:39:23
确定成为神宫寺奈绪师妹!顶流厂牌Madonna 喜迎“强势生力军”,重磅官宣人气要角「明日叶みつは」加盟消息

确定成为神宫寺奈绪师妹!顶流厂牌Madonna 喜迎“强势生力军”,重磅官宣人气要角「明日叶みつは」加盟消息

孤独的独角兽影视
2026-11-21 09:50:17
纽约时报往死里整黄仁勋?爆料其威胁摘掉一英伟达员工的头套,露出其大脑,然后在上面撒尿

纽约时报往死里整黄仁勋?爆料其威胁摘掉一英伟达员工的头套,露出其大脑,然后在上面撒尿

小徐讲八卦
2026-11-21 10:54:53
2026-11-21 18:39:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16735文章数 67241关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
数码
本地
公开课
军事航空

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

数码要闻

Blackview推出Zeno 3平板电脑:120Hz 800P面板、展锐T7250

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版