最近美国AI圈突然炸了锅——Anthropic的聊天机器人Claude,居然在美国手机应用下载量第一次超过了ChatGPT。你别以为是它新出了啥能上天的功能,这波热度全是因为它和五角大楼的掰头闹大了。一边是它敢硬刚政府不松口伦理底线,圈了一波好感;另一边是一堆专家跳出来泼冷水:AI根本扛不住战争的锅,用了可能出人命。这事儿到底咋回事?
先说说这下载量的事儿,市场研究公司Sensor Tower的数据挺实锤:这周Claude直接干翻了ChatGPT,成了美国最火的AI应用。之前ChatGPT一直是老大,突然被超,吃瓜群众都好奇Claude到底凭啥。其实答案很简单——大家都想看看,这家敢跟五角大楼对着干的AI公司,到底是什么来头。
周五特朗普政府突然下了个狠命令:所有政府机构必须停掉Claude,还把它列成了供应链风险。为啥?因为Anthropic的CEO阿莫迪死咬着伦理限制不放。这些限制本来就是防技术被用来做自主武器,或者搞国内大规模监控的,阿莫迪说啥都不松口。Anthropic还放话了,等收到正式处罚通知,就去法院告政府。
这事儿出来后,专家们的态度分成了两派。有的夸阿莫迪够刚,守道德底线,是AI圈的一股清流。但也有人骂得凶,比如前海军战斗机飞行员、乔治梅森大学机器人与自动化中心主任卡明斯。她直接戳穿:“这锅一半是Anthropic的!之前这些AI公司吹得最凶,说技术多牛多能打,现在突然又说‘别用在武器上’,早干嘛去了?”
卡明斯不是瞎喷,她去年12月在顶级AI会议上发过论文,专门说政府得禁止生成式AI控制任何武器。不是因为AI太聪明会造反,是因为像Claude这种大模型有个致命问题——会“幻觉”,就是瞎编乱造,而且根本不可靠。要是用在可能死人的地方,搞不好杀非战斗人员,甚至自己的士兵。她还说,军方可能根本没搞懂AI的局限性。
上周阿莫迪为自己的伦理立场辩护,也强调了AI的问题:“前沿AI还没靠谱到能驱动完全自主武器,我们绝不会给会害军人和平民的产品。”这话听着挺实在,但架不住之前的炒作啊——之前这些AI公司可是天天吹“技术快有感知能力了”,现在突然刹车,谁信?
你可能不知道,Anthropic之前可是AI圈里唯一能进美国机密军事系统的公司,还和数据分析公司Palantir、其他国防承包商合作过。但特朗普周五说,五角大楼得在6个月内淘汰Anthropic的军事应用——巧的是,同一天他还批准了周六对伊朗的军事打击。
卡明斯之前给Palantir当过顾问,对这事儿门儿清。她说Claude可能已经被用在军事打击计划里了。她还反复强调:“这些技术必须有人盯着,不能全靠AI,得反复验证。”可AI公司之前吹的是“技术能自主决策”,这反差太大了。
上周有个社交媒体评论员说Anthropic这事儿是“炒作税”——就是之前吹得太狠,现在得买单。这话还被特朗普的首席AI顾问萨克斯转发了,萨克斯本来就经常怼Anthropic。这“炒作税”的说法,好像还真戳中了不少人的点。
虽然Anthropic摊上了法律麻烦,可能影响和其他国防承包商的合作,但它的声誉反而涨了。消费者用脚投票,Claude下载量暴涨:从周六开始成了iPhone最火的应用,周一更是美国所有手机系统里的第一。这可坑了ChatGPT——OpenAI周五刚宣布和五角大楼合作取代Anthropic,用户口碑直接崩了。
苹果商店里的数据更扎心:ChatGPT的一星评价周六涨了775%,之后还在涨,逼得OpenAI赶紧危机公关。奥特曼周一在社交媒体道歉:“周五不该急着发文件,问题太复杂,沟通没做好。我们想缓和局势,结果看起来像投机取巧。”他还计划周二开全体员工会讨论下一步。
奥特曼也承认AI还不成熟:“很多领域我们还没搞懂安全的权衡。我们会和五角大楼合作,用技术保障慢慢解决问题。”但用户不买账啊——一星评价说明一切,大家觉得OpenAI就是想抢Anthropic的生意,根本没把伦理当回事。
这事儿其实挺有意思的:AI公司之前靠吹“技术万能”圈政府订单,现在突然发现技术不靠谱,又想守伦理底线。可政府已经信了他们的吹,现在掰头起来,受伤的除了公司,还有可能是军人和平民。到底AI能不能用在战争里?恐怕不是AI公司一句话能定的,也不是政府一个命令能解决的。
参考资料:新华社《美国AI公司Anthropic与五角大楼争议引关注》
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.