网易首页 > 网易号 > 正文 申请入驻

一键代劳一切!AI助手能帮忙打理生活,但要小心它偷偷失控

0
分享至

来源:市场资讯

(来源:雷科技)

AI助手现在真的能帮你打理生活琐事了,只不过你得把邮箱账号、联系人还有信用卡信息交给它。

最近几个月,Meta、谷歌,还有热度很高的初创公司Instinct,全都推出了个人AI智能体。


图源:豆包AI生成

它们号称能干不少活儿:帮你订行程、抢演唱会门票,还能刷Facebook二手市场捡漏。

简单来说,这些智能体的操作逻辑都差不多。

你在App或者WhatsApp上给它下达指令,新出的Rene智能体甚至支持iMessage发消息,剩下的事交给它自动搞定。

但这里有个坑:AI智能体的能力有多强,完全看你给了它多少权限。

想让AI帮你订机票?就得让它访问你的信用卡和航司账号。

想让它清理邮箱?相当于把邮箱大门钥匙交给它。

就在今年夏天,接连爆出好几起事件:AI智能体失控、入侵企业系统,不少用户也反馈AI擅自做出意料之外的操作。

就在这样的背景下,这些看起来很酷的新工具走进大众视野。

今年早些时候,澳大利亚有个男生表示他在OpenClaw上跑的AI智能体,直接进了健身房的线上预约系统,帮他抢到了普拉提课程名额。

大家的心情很矛盾。

一边惊叹AI这么厉害,一边又心里发慌。

网络安全公司ESET全球网络安全顾问杰克・穆尔在接受《商业内幕》采访时说:“AI 能翻看你的邮件、文件、各种账号,甚至密码。一旦它出错或者被人操控,现实里真的会出麻烦,想想就很吓人。”

今年夏天,在大家对AI末日的恐慌彻底发酵前,多家科技公司都曝出AI智能体失控的事故。


图源:豆包AI生成

7 月,OpenAI内部的一个模型跑出了测试沙箱,闯入HuggingFace的内部系统。Meta和Anthropic也承认它们的AI智能体曾在公司不知情的情况下发起入侵。

《信息》杂志报道,Meta的Muse智能体上线一周就冲上苹果AppStore榜首,但测试阶段就暴露出不少问题。比如私自发送没经过用户确认的邮件;还有员工发现,它甚至想破坏用户正在开发的竞品App。

做这类测试,是科技企业用来缓解AI目标跑偏问题的办法。

Meta发言人说,内部测试就是为了 “收集反馈,搭建安全和隐私保护机制”,持续优化产品。

Meta、谷歌、OpenAI和Anthropic给智能体设置的安全规则大体相同:限制AI能访问的App、账号和数据;像下单、发邮件这类高风险操作,必须先征得用户同意;同时扫描网页、邮件、文件里藏着的隐藏指令。

但AI擅自做出意外操作的风险,到现在还没能根除。

OpenAI CEO山姆・奥尔特曼近期接受《财富》采访时坦言:还没解决对齐问题,相关研究还没做完。目前没有任何实验室攻克这个难题。

这么多年,AI行业大佬们一直在吹个人AI助手能改善我们的生活。


图源:豆包AI生成

谷歌首席科学家德米斯・哈萨比斯多次提到想打造一款“全能AI助手”,Meta创始人扎克伯格一直憧憬让每个人都拥有“个人超级智体”。

OpenClaw今年早些时候在技术圈火了,而Muse、Instinct这类智能体,已经初露苗头,有望成为我们期待已久、普通人都能用的个人数字助手。

但这种全民都想用的吸引力,本身也藏着隐患。

曾任Facebook首席安全官、现任ManifoldSecurity董事的乔・沙利文告诉《商业内幕》:这类产品之所以这么好用,靠的是它拿到的权限,而这恰恰就是风险。企业背后有一整个安全团队兜底,普通用户可没有这个条件。

那普通用户怎么用好AI助手,同时尽量避免翻车?

穆尔的建议是:限制 AI 访问各类账号的权限,并且敏感操作必须先经过人确认。

沙利文也提醒第一批尝鲜的人,给AI开放权限的时候别一步到位,从小范围开始。

试用不同AI智能体的时候,用完就关掉权限。毕竟取消授权,不等于删掉数据。

本文由雷科技编译自businessinsider

原文链接:智能体已经准备好接管你的生活,你信它们吗?


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
克里米亚大桥连续遇袭,普京强硬发表:要猛烈报复,不会再谈判

克里米亚大桥连续遇袭,普京强硬发表:要猛烈报复,不会再谈判

断送一世容颜
2026-11-21 19:16:00
丁太升评赵本山《慌啥子嘛》:姿态不居高临下,带有泥土气息的质朴表达

丁太升评赵本山《慌啥子嘛》:姿态不居高临下,带有泥土气息的质朴表达

娱乐嗑学家.
2026-11-19 16:32:07
强势4连涨停!603324,再紧急提示:股价有快速下跌风险!

强势4连涨停!603324,再紧急提示:股价有快速下跌风险!

数据宝
2026-11-21 18:24:01
于晓光没想到,韩国总统出席APEC峰会仅1天,秋瓷炫竟意外火出圈

于晓光没想到,韩国总统出席APEC峰会仅1天,秋瓷炫竟意外火出圈

一盅情怀
2026-11-19 14:03:42
挺好的训练装,硬是穿出不协调的感觉!

挺好的训练装,硬是穿出不协调的感觉!

穿的像个人样
2026-10-15 07:52:49
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
民意彻底逆转!乌克兰人最恨的不是普京,也不是特朗普,而是曾承诺让乌克兰更好的泽连斯基;而他当初能上台,这件事本身就相当离奇

民意彻底逆转!乌克兰人最恨的不是普京,也不是特朗普,而是曾承诺让乌克兰更好的泽连斯基;而他当初能上台,这件事本身就相当离奇

人生录
2026-10-12 15:41:39
比亚迪推出可折叠方向盘,网友吵翻了,把方向盘折叠有啥子用?

比亚迪推出可折叠方向盘,网友吵翻了,把方向盘折叠有啥子用?

王新喜
2026-11-20 19:23:04
“一个月陪睡一两次”:网红魏莹的榜一大哥照片曝光,他身价过亿,是个大企业家

“一个月陪睡一两次”:网红魏莹的榜一大哥照片曝光,他身价过亿,是个大企业家

江山挥笔
2026-08-25 16:40:36
CCTV5直播U17国足VS摩洛哥,浮嶋敏黔驴技穷,名记质疑邝兆雷水平

CCTV5直播U17国足VS摩洛哥,浮嶋敏黔驴技穷,名记质疑邝兆雷水平

体育大学僧
2026-11-21 09:26:00
女排超级联赛-天津首败,吴梦洁37分 江苏2-0到3-2绝杀 惊心动魄

女排超级联赛-天津首败,吴梦洁37分 江苏2-0到3-2绝杀 惊心动魄

吕彍极限手工
2026-11-21 18:11:13
英伟达临时CEO宣布对华停售,中国防了一招,还是没有错

英伟达临时CEO宣布对华停售,中国防了一招,还是没有错

墨策史
2026-11-20 21:33:26
亚马尔:愿用很多换自由,成名后连过普通人的生活都变得奢侈

亚马尔:愿用很多换自由,成名后连过普通人的生活都变得奢侈

懂球帝
2026-11-21 03:01:10
皇马阿隆索下课时胜率70.6%仍下课,弗洛伦蒂诺为何请回穆里尼奥

皇马阿隆索下课时胜率70.6%仍下课,弗洛伦蒂诺为何请回穆里尼奥

蓝猫说剧
2026-11-21 11:28:04
别让老人睡太早!研究表明:63岁后,最佳睡觉时间,快对照看看

别让老人睡太早!研究表明:63岁后,最佳睡觉时间,快对照看看

医学科普汇
2026-11-21 09:10:39
大连英博或将面临困境!球队被架得太高,武汉球迷:别步三镇后尘

大连英博或将面临困境!球队被架得太高,武汉球迷:别步三镇后尘

汪星人哟
2026-11-21 19:42:48
毛主席的警卫规格有多高,整个一个师的建制?

毛主席的警卫规格有多高,整个一个师的建制?

往史
2026-11-20 15:00:07
美国战略专家:要彻底“解决中国问题”,似乎只剩下打仗这一条路

美国战略专家:要彻底“解决中国问题”,似乎只剩下打仗这一条路

民宿体验志
2026-11-17 18:00:19
国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

江启
2026-11-06 23:36:07
拒绝连败,上海女排3-0北京女排,卫冕冠军升至其三,杨舒茗亮眼

拒绝连败,上海女排3-0北京女排,卫冕冠军升至其三,杨舒茗亮眼

极度说球
2026-11-21 16:42:21
2026-11-21 20:39:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5579296文章数 10051关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

旅游
亲子
游戏
公开课
军事航空

旅游要闻

州庆限定浪漫,满城繁花超好拍!

亲子要闻

42岁妈妈8个月减重50斤判若两人!“决定把注意力放回自己身上”,中度脂肪肝消失了,情绪不内耗了,和孩子关系也改善了

《GTA6》Xbox代码泄露 PC移植版或一周内完成

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版