家务机器人会杀死主人吗：真正的危险，可能不是机器觉醒

假设你对家务机器人说：“把厨房尽快收拾干净。”

它识别出地上的杯子，伸手去捡。没有看见桌边跑来的孩子，也没理解你突然伸手是在阻止它。它的手臂仍按原计划转动。整个过程中，机器人没有愤怒，没有反抗，更没有杀死主人的念头。它只是看错了、理解错了，又没有及时停下来。

人们谈AI失控，脑海里常出现一个具有恶意的超级智能。但家务机器人真正进入家庭后，最先威胁我们的可能不是机器突然恨上人类，而是一台毫无恶意的机器获得了足够大的力气，却仍会犯普通而顽固的错误。

那么，人类距离这种危险还有多远？答案要分成三层。

今天的家务机器人，还不是会谋杀的“机器管家”

截至2026年9月，没有可靠证据表明家务机器人已经因为自主产生恶意而杀死主人。最新《国际AI安全报告》也给出了克制判断：当前通用AI出现了与失控相关的早期能力，却尚未达到能够造成失控的水平。要真正摆脱人类控制，系统还需要长期自主行动、逃避监督、保护自身计划并阻止人类反制等能力组合。

这些能力并没有完整出现在今天的家务机器人身上。Anthropic今年让多个语言模型控制机械臂、四足机器人和模拟人形机器人。结果显示，模型直接指挥关节时大多失败。当它只发布高层指令，由成熟控制器处理身体动作时，完成任务的能力才明显提高。

这说明今天的风险与科幻片恰好相反：机器人不是太有主见，而是常常不够理解现实。它可能听懂“把杯子拿过来”，却不懂杯中是开水。能够识别人，却分不清孩子是在玩耍还是突然闯入危险区域。学会了一串动作，却不知道计划执行到一半时，房间已经变了。

现实伤害也不需要AI觉醒。2026年7月，澳大利亚珀斯一名男子在家中因机器人吸尘器起火而全身75%烧伤。有关部门带走了吸尘器等物品调查，现有信息不能证明事故由AI决策导致。它更像传统产品安全事故：电池、充电、电路或其他环节可能失效。

但这件事提醒我们，人早已可能被机器人伤害。随着机器从吸尘器变成能开火、切菜、搬重物和照顾老人的家务助手，软件错误与物理世界之间的距离将越来越短。

机器人不需要失控，只要五道防线同时漏过去

一台家务机器人完成收拾厨房，至少要经过感知、理解、规划、执行和停止几个环节。摄像头先辨认物体和人，模型理解命令，再把任务拆成动作，控制器驱动关节，安全系统在有人靠近时减速或急停。

单个错误通常并不致命。摄像头漏看一个人，距离传感器还可以发现障碍。模型误解命令，动作控制器可以限制速度。软件没有停下，机械急停仍应切断动力。真正危险的是错误开始串联：逆光让摄像头漏检，模型把孩子当成背景，规划继续执行，急停又依赖同一套已经出错的软件。

2026年一项关于长程具身任务的研究综述指出，语义误解、子任务错误、执行漂移和接触风险会在同一个闭环中累积。机器人做三秒钟的单一动作和独自在家工作三小时，不是同一种安全难题。任务越长，它遇到的意外越多，前一步的小偏差也越容易改变后面的情境。

复杂系统里的事故往往没有一个像电影反派那样清晰的元凶。传感器在允许误差内，模型做了概率上最合理的判断，机械臂按指令运动，厂商也分别通过了若干测试。可这些局部正常连接在一起，仍可能产生无人预料的危险。

因此，AI是否聪明并不是唯一问题。更重要的是：它有多大力气，活动范围多广，能连续工作多久。安全装置是否独立于主模型，断网、断电、传感器损坏时，它会停下，还是猜着继续做。

最容易失控的，可能先是人的信任

家务机器人还有一个工业机器没有的优势：它会说话。

它会叫你的名字，会解释自己正在做什么，撞翻东西后还可能说一句“对不起”。社会心理学研究发现，人们会把能力、温暖和人格投射到机器人身上。机器人越像一个愿意帮忙的伙伴，我们越容易把流畅交流误认为它理解了家庭生活。可会道歉不等于会反省，会描述风险也不等于真正感到害怕。有关过度信任的实验甚至发现，一些参与者见过机器人犯错后，仍会在模拟紧急疏散中跟随它走向错误方向。

这可能是家务机器人最隐蔽的风险。工业机械臂被关在围栏里，工人知道它危险。家庭机器人被设计得圆润、礼貌、耐心，用户反而可能让孩子和老人单独与它相处。机器的动作能力在增加，人的警惕却可能因为它更像人而下降。

安全不只是让机器人值得信任，还要让人的信任与它的真实能力相匹配。它必须清楚暴露不确定性，而不是用自信语气掩盖，必须允许人随时打断，而不是在被阻止时继续完成目标，危险动作需要二次确认，急停则不能依赖它自己同意停下。

市场奖励的是“先进入家庭”，事故成本却留给所有人

公司为什么会急着让机器人学会更多家务？因为第一批进入家庭的产品可能获得数据、用户习惯、开发者生态和品牌位置。能力演示很容易传播：机器人做饭、叠衣、照顾宠物的视频能带来订单和融资。安全能力则很难拍成短视频，一次成功急停看起来只是机器什么也没做。

经济学中的竞赛模型提醒我们，当抢先收益很大，企业会在速度与安全之间重新分配资源。安全测试带来的收益由全行业和社会共享，一家公司放慢发布却可能独自失去市场；事故造成的医疗、照护和信任损失，又不一定全部由厂商承担。这不证明企业必然忽视安全，却解释了为什么大家都知道要谨慎，仍可能出现集体加速。

最近辞职的Anthropic研究员Jacob Coxon把未来十年AI导致人类灭绝的概率估计为10%。这是个人判断，不是科学共识。真正值得重视的并非那个具体数字，而是他说出的竞争困境：每家公司都担心自己慢下来，竞争者却不会停。

家务机器人把这种宏大争论缩小到一间厨房。我们不必等到超级智能接管互联网，才开始理解失控。只要人类把更多感知、判断和动作交给机器，却仍由用户独自承担误判后果，控制权就已经在一点点移动。

所以，我们距离AI失控还有多远？

距离一个具有长期计划、能够逃避监管并阻止人类关机的AI，没人能给出可信倒计时。当前系统尚未达到那一步，专家对它是否会发生、何时发生仍有巨大分歧。

距离一台没有恶意、却可能因错误链条严重伤人的家务机器人，则近得多。所缺的未必是智能，而是更强的手臂、更广的权限、更长的自主运行时间，以及一次没有被独立安全装置截住的错误。真正的分界线不是机器什么时候产生杀意，而是我们什么时候允许它在没有充分理解世界时，替我们触碰火、刀具、药物、老人和孩子。

过去，AI答错一道题，我们失去的是几分钟。如今它开始控制车辆、机械臂和家用设备，错误答案会变成速度、重量、温度与碰撞。AI有了一双手之后，所谓失控便不再只是遥远的哲学问题。落到现实中，它是一道很日常的选择题：在把家门钥匙交给机器之前，我们有没有保留一只真正独立、随时能够按下停止键的手？