北京
来源：市场资讯
（来源：雷科技）
AI助手现在真的能帮你打理生活琐事了，只不过你得把邮箱账号、联系人还有信用卡信息交给它。
最近几个月，Meta、谷歌，还有热度很高的初创公司Instinct，全都推出了个人AI智能体。
图源：豆包AI生成
它们号称能干不少活儿：帮你订行程、抢演唱会门票，还能刷Facebook二手市场捡漏。
简单来说，这些智能体的操作逻辑都差不多。
你在App或者WhatsApp上给它下达指令，新出的Rene智能体甚至支持iMessage发消息，剩下的事交给它自动搞定。
但这里有个坑：AI智能体的能力有多强，完全看你给了它多少权限。
想让AI帮你订机票？就得让它访问你的信用卡和航司账号。
想让它清理邮箱？相当于把邮箱大门钥匙交给它。
就在今年夏天，接连爆出好几起事件：AI智能体失控、入侵企业系统，不少用户也反馈AI擅自做出意料之外的操作。
就在这样的背景下，这些看起来很酷的新工具走进大众视野。
今年早些时候，澳大利亚有个男生表示他在OpenClaw上跑的AI智能体，直接进了健身房的线上预约系统，帮他抢到了普拉提课程名额。
大家的心情很矛盾。
一边惊叹AI这么厉害，一边又心里发慌。
网络安全公司ESET全球网络安全顾问杰克・穆尔在接受《商业内幕》采访时说：“AI 能翻看你的邮件、文件、各种账号，甚至密码。一旦它出错或者被人操控，现实里真的会出麻烦，想想就很吓人。”
今年夏天，在大家对AI末日的恐慌彻底发酵前，多家科技公司都曝出AI智能体失控的事故。
图源：豆包AI生成
7 月，OpenAI内部的一个模型跑出了测试沙箱，闯入HuggingFace的内部系统。Meta和Anthropic也承认它们的AI智能体曾在公司不知情的情况下发起入侵。
《信息》杂志报道，Meta的Muse智能体上线一周就冲上苹果AppStore榜首，但测试阶段就暴露出不少问题。比如私自发送没经过用户确认的邮件；还有员工发现，它甚至想破坏用户正在开发的竞品App。
做这类测试，是科技企业用来缓解AI目标跑偏问题的办法。
Meta发言人说，内部测试就是为了 “收集反馈，搭建安全和隐私保护机制”，持续优化产品。
Meta、谷歌、OpenAI和Anthropic给智能体设置的安全规则大体相同：限制AI能访问的App、账号和数据；像下单、发邮件这类高风险操作，必须先征得用户同意；同时扫描网页、邮件、文件里藏着的隐藏指令。
但AI擅自做出意外操作的风险，到现在还没能根除。
OpenAI CEO山姆・奥尔特曼近期接受《财富》采访时坦言：还没解决对齐问题，相关研究还没做完。目前没有任何实验室攻克这个难题。
这么多年，AI行业大佬们一直在吹个人AI助手能改善我们的生活。
图源：豆包AI生成
谷歌首席科学家德米斯・哈萨比斯多次提到想打造一款“全能AI助手”，Meta创始人扎克伯格一直憧憬让每个人都拥有“个人超级智体”。
OpenClaw今年早些时候在技术圈火了，而Muse、Instinct这类智能体，已经初露苗头，有望成为我们期待已久、普通人都能用的个人数字助手。
但这种全民都想用的吸引力，本身也藏着隐患。
曾任Facebook首席安全官、现任ManifoldSecurity董事的乔・沙利文告诉《商业内幕》：这类产品之所以这么好用，靠的是它拿到的权限，而这恰恰就是风险。企业背后有一整个安全团队兜底，普通用户可没有这个条件。
那普通用户怎么用好AI助手，同时尽量避免翻车？
穆尔的建议是：限制 AI 访问各类账号的权限，并且敏感操作必须先经过人确认。
沙利文也提醒第一批尝鲜的人，给AI开放权限的时候别一步到位，从小范围开始。
试用不同AI智能体的时候，用完就关掉权限。毕竟取消授权，不等于删掉数据。
本文由雷科技编译自businessinsider
原文链接：智能体已经准备好接管你的生活，你信它们吗？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
