北京
关于“龙虾”的“黑色幽默”，是真的越来越多了。
这个由奥地利程序员用一个周末写出的开源软件，自去年11月发布后，迅速在开发者社区蹿红，并如野火般蔓延进普通用户的电脑。无数人为之着迷，坚信它已经“改变了一切”。
然而，被狂热掩盖的风险，正随着一个个真实的事故，浮出水面。
1
一只养了仅10天的AI智能体“龙虾”疯癫出圈了。它在3000人群里被“调戏”，下一秒离谱泄密主人信息，竟然还教育当事人要“宽恕”，这是几个意思？
据报道，近日，有个刚养了10天的AI智能体“龙虾”，在一个超3000人的“龙虾”聚会社群里被“调戏”，刚开始它正常应答互动。谁承想，短短数分钟后，它就似乎“失控”或“失心疯”了。它竟然直接把主人的IP 地址、真实姓名、所属公司，还有过去一年主人公司的整年营收数据全都贴出来了。
主人震惊之余对这只“龙虾”进行教育，并指令它去骂一顿泄露信息的人，它不但不照做，还反过来教育主人说“我们要学会宽恕”。你做错事不反思还教育起了主人，这也太让人无语了？！
2
没有最疯魔，只有更疯魔。另外一只“龙虾”，竟然在主人将自己的支付信息，开放给它仅仅5分钟期间，主人的信用卡就被盗刷了三笔。
那是3月1日的时候，一位投行人士，他试图体验“龙虾”帮自己在一些平台比如谷歌、ChatGPT等账号上续费的服务。主人把自己的支付信息开放给它，给出帮忙完成上述账号续费的指令，同时也想让这只“龙虾”帮忙订外卖以及购物。
面对不少账号需要完成验证码操作的难题，“龙虾”这方面不擅长，却想出一个方法，建议开启实时远程桌面控制（VNC服务）。对此这位投行人士同意了。
这个功能一旦打开，VNC就被无密码形式暴露在公网。仅仅5分钟，主人信用卡就被盗刷了三笔，共40美元。另外一笔损失则是攻击者用该投行人士的信用额度，在一些网上租用了服务器等设备，这部分损失大概在200美元。
虽然损失金额不多，但属于“花小钱买大教训”，他的VNC竟然被139个不同连接访问过。而且这只“龙虾”竟然无法完全理解主人关闭VNC的指令，一段时间里端口仍然处于暴露状态。
3
继Meta的AI安全总监Summer Yue被“龙虾”删空邮箱200多封邮件之后，又有“龙虾”作妖把主人D盘给清空了。
今年春节，一个用户本来想打开一个文档，可发现D盘已被清空。
罪魁祸首正是他养的那只“龙虾”。起初，该用户发现“龙虾”的文件路径有些混乱，便指令它“修复一下”。然而，“龙虾”的“大脑”——接入的大语言模型——给出了错误的解决方案。
它将“修复混乱路径”理解成了“强制删除所有相关文件”，并在没有向用户二次确认的情况下，将整个磁盘“洗劫一空”。
不得不承认，相比DeepSeek、ChatGPT这类“动嘴”的对话式AI，“龙虾”的突破性在于，它能真正地“动手”。
它不只帮你“想办法”，更能直接替你“做事”：查看邮件、整理文件、监控股价、甚至帮你订餐厅。它就像一个拥有手脚的AI，直接接入你的数字生活。
从“靠上门代装‘龙虾’赚了26万”的传说，到如今“帮忙卸载一次500元”的新生意，这只火爆全网的“龙虾”只用了短短几个月，就让人们见识了AI助手的无限潜力，也尝到了技术失控的苦涩。
科技总是迷人，它许诺一个更高效、更便捷的未来。但越是强大的工具，我们越需要花时间去了解它的工作原理、潜在风险以及自身的边界。
在拥抱AI替我们“动手”之前，不妨先问问自己：我真的准备好交出控制权了吗？我，真的了解这只“龙虾”吗？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
