网易首页 > 网易号 > 正文 申请入驻

一键代劳一切!AI助手能帮忙打理生活,但要小心它偷偷失控

0
分享至

来源:市场资讯

(来源:雷科技)

AI助手现在真的能帮你打理生活琐事了,只不过你得把邮箱账号、联系人还有信用卡信息交给它。

最近几个月,Meta、谷歌,还有热度很高的初创公司Instinct,全都推出了个人AI智能体。


图源:豆包AI生成

它们号称能干不少活儿:帮你订行程、抢演唱会门票,还能刷Facebook二手市场捡漏。

简单来说,这些智能体的操作逻辑都差不多。

你在App或者WhatsApp上给它下达指令,新出的Rene智能体甚至支持iMessage发消息,剩下的事交给它自动搞定。

但这里有个坑:AI智能体的能力有多强,完全看你给了它多少权限。

想让AI帮你订机票?就得让它访问你的信用卡和航司账号。

想让它清理邮箱?相当于把邮箱大门钥匙交给它。

就在今年夏天,接连爆出好几起事件:AI智能体失控、入侵企业系统,不少用户也反馈AI擅自做出意料之外的操作。

就在这样的背景下,这些看起来很酷的新工具走进大众视野。

今年早些时候,澳大利亚有个男生表示他在OpenClaw上跑的AI智能体,直接进了健身房的线上预约系统,帮他抢到了普拉提课程名额。

大家的心情很矛盾。

一边惊叹AI这么厉害,一边又心里发慌。

网络安全公司ESET全球网络安全顾问杰克・穆尔在接受《商业内幕》采访时说:“AI 能翻看你的邮件、文件、各种账号,甚至密码。一旦它出错或者被人操控,现实里真的会出麻烦,想想就很吓人。”

今年夏天,在大家对AI末日的恐慌彻底发酵前,多家科技公司都曝出AI智能体失控的事故。


图源:豆包AI生成

7 月,OpenAI内部的一个模型跑出了测试沙箱,闯入HuggingFace的内部系统。Meta和Anthropic也承认它们的AI智能体曾在公司不知情的情况下发起入侵。

《信息》杂志报道,Meta的Muse智能体上线一周就冲上苹果AppStore榜首,但测试阶段就暴露出不少问题。比如私自发送没经过用户确认的邮件;还有员工发现,它甚至想破坏用户正在开发的竞品App。

做这类测试,是科技企业用来缓解AI目标跑偏问题的办法。

Meta发言人说,内部测试就是为了 “收集反馈,搭建安全和隐私保护机制”,持续优化产品。

Meta、谷歌、OpenAI和Anthropic给智能体设置的安全规则大体相同:限制AI能访问的App、账号和数据;像下单、发邮件这类高风险操作,必须先征得用户同意;同时扫描网页、邮件、文件里藏着的隐藏指令。

但AI擅自做出意外操作的风险,到现在还没能根除。

OpenAI CEO山姆・奥尔特曼近期接受《财富》采访时坦言:还没解决对齐问题,相关研究还没做完。目前没有任何实验室攻克这个难题。

这么多年,AI行业大佬们一直在吹个人AI助手能改善我们的生活。


图源:豆包AI生成

谷歌首席科学家德米斯・哈萨比斯多次提到想打造一款“全能AI助手”,Meta创始人扎克伯格一直憧憬让每个人都拥有“个人超级智体”。

OpenClaw今年早些时候在技术圈火了,而Muse、Instinct这类智能体,已经初露苗头,有望成为我们期待已久、普通人都能用的个人数字助手。

但这种全民都想用的吸引力,本身也藏着隐患。

曾任Facebook首席安全官、现任ManifoldSecurity董事的乔・沙利文告诉《商业内幕》:这类产品之所以这么好用,靠的是它拿到的权限,而这恰恰就是风险。企业背后有一整个安全团队兜底,普通用户可没有这个条件。

那普通用户怎么用好AI助手,同时尽量避免翻车?

穆尔的建议是:限制 AI 访问各类账号的权限,并且敏感操作必须先经过人确认。

沙利文也提醒第一批尝鲜的人,给AI开放权限的时候别一步到位,从小范围开始。

试用不同AI智能体的时候,用完就关掉权限。毕竟取消授权,不等于删掉数据。

本文由雷科技编译自businessinsider

原文链接:智能体已经准备好接管你的生活,你信它们吗?


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

磊子讲史
2026-11-12 11:43:36
99%新观众不付费,85.9%收入靠普通上班族

99%新观众不付费,85.9%收入靠普通上班族

我是一个养虾人
2026-11-20 20:20:06
山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

澎湃新闻
2026-11-21 22:20:40
77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

回京历史梦
2026-11-17 14:24:26
真相扎心:同样是内裤,差距怎么这么大?

真相扎心:同样是内裤,差距怎么这么大?

果壳
2026-11-22 12:17:04
新疆公公寄来7斤厚棉被,儿子盖上夜夜冻醒,剪开被子全家沉默

新疆公公寄来7斤厚棉被,儿子盖上夜夜冻醒,剪开被子全家沉默

据说说娱乐
2026-11-22 00:55:26
精壮身材、高冷气场!7位当兵后更有魅力的韩星!

精壮身材、高冷气场!7位当兵后更有魅力的韩星!

ChicMyGeek
2026-11-22 11:08:10
央视直播年终总决赛时间表:11月23日CCTV5+直播阿卡PK兹维列夫

央视直播年终总决赛时间表:11月23日CCTV5+直播阿卡PK兹维列夫

薇说体育
2026-11-22 15:47:22
曝85花想复婚被拒绝,靠着孩子拿捏前夫,重回顶流之位难如登天!

曝85花想复婚被拒绝,靠着孩子拿捏前夫,重回顶流之位难如登天!

嘴角上翘的弧度
2026-11-22 01:51:42
刻赤大桥垮塌引爆俄国内舆论

刻赤大桥垮塌引爆俄国内舆论

YY团长
2026-11-20 22:37:24
印度网红来重庆旅游,痛批中国人吃牛肉的行为,完全不尊重印度文化

印度网红来重庆旅游,痛批中国人吃牛肉的行为,完全不尊重印度文化

新游戏大妹子
2026-11-20 13:07:07
美国歌手的衣服在雨中像纸一样融化了引关注

美国歌手的衣服在雨中像纸一样融化了引关注

韩小娱
2026-11-22 16:44:36
马竞社媒:马竞晒全家福,李刚仁C位

马竞社媒:马竞晒全家福,李刚仁C位

懂球帝
2026-11-22 09:08:03
4岁藏族小女孩牵着高反女游客找氧气:“别哭了,哭的话会越来越缺氧”

4岁藏族小女孩牵着高反女游客找氧气:“别哭了,哭的话会越来越缺氧”

一丝不苟的法律人
2026-11-15 17:01:02
开始了!梅根提前发布圣诞照,势必要抢走凯特王储妃的风头了

开始了!梅根提前发布圣诞照,势必要抢走凯特王储妃的风头了

艺利森
2026-11-22 10:05:51
美国出全球通缉令,逮捕中国芯片科学家陈正坤,现在怎么样了?

美国出全球通缉令,逮捕中国芯片科学家陈正坤,现在怎么样了?

陌冷紫a
2026-11-22 16:36:45
90后小伙修电脑年入800万,请尊重一下人们的智商,也请有点底线!

90后小伙修电脑年入800万,请尊重一下人们的智商,也请有点底线!

走读新生
2026-11-21 23:54:15
“五星上将麦克阿瑟”演员:演员在深圳住了20年:快68了,还觉得自己像40多岁

“五星上将麦克阿瑟”演员:演员在深圳住了20年:快68了,还觉得自己像40多岁

青科新闻
2026-11-22 16:20:12
官方:前比利时国脚穆萨-登贝莱出任广州粤虎联新闻官

官方:前比利时国脚穆萨-登贝莱出任广州粤虎联新闻官

懂球帝
2026-11-22 15:49:27
郝蕾太应该走靓姐路线了,身穿黑色连衣裙美出新高度!

郝蕾太应该走靓姐路线了,身穿黑色连衣裙美出新高度!

说不尽的人心
2026-11-21 10:17:23
2026-11-22 18:11:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5581405文章数 10060关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
数码
时尚
本地
健康

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

数码要闻

内存价格暴涨下,华硕考虑将中低端PC内存由16GB降至8GB

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版