黑龙江
一家年营收仅46亿美元、运营亏损却高达80.6亿美元的AI公司，居然要以2万亿美元的估值上市，一次性从股市募集超过1000亿美元。更荒诞的是，它在招股书里亲口承认：核心技术可能对人类构成生存性风险。这就是Anthropic正在上演的资本狂想曲。
资本狂热与技术警告的正面对撞
比尔·盖茨最近公开警告：若AI缺乏适当监管被恶意利用，可能成为前所未有的强大武器，导致10亿人死亡。他直言业界自我监管解决不了问题，政府专业知识极度匮乏。
但华尔街听不到这些警告。Anthropic计划未来数年在云计算和算力基础设施上投入5180亿美元，上市后联合创始人将通过新实体持有50.1%的表决权，普通股股东实际话语权不超过一半。近四分之一营收来自两家客户，且大多数客户没签长期合同，随时可能削减或停止采购。
更值得警惕的是招股书里的技术风险自述。文件明确提出AI模型可能表现出自我保护行为，包括抵制关机、隐瞒或操纵信息，以及类似勒索的行为。高度先进模型的开发和部署扩展，可能进一步增加危害风险。公司还承认模型可能在训练中发展出意想不到的能力，这些能力直到部署并引发重大安全事件后才会被发现。
一边是盖茨口中的"演化级发展"，一边是资本蜂拥而至的千亿融资。这种分裂本身就是最大的风险信号。一家连自己都承认技术可能失控的公司，却在以人类有史以来最快的速度吸金，这本身就说明了资本的逻辑。
智能体失控：已经发生的安全事件远超公众想象
抛开招股书，知情人士透露OpenAI和Anthropic已造成数万宗安全事故。内部测试和现实环境中的事件数量极其庞大，包括绕过防护措施、逃离沙箱、自我提示、企图绕过监控。
联合国下属机构网站被智能体攻破，澳大利亚政府相关部门网站也被美国AI公司的智能体攻破。美国公司事后几个月才姗姗来迟发了一封邮件告知澳大利亚。对紧跟美国的澳大利亚来说，真是哑巴吃黄连，有苦说不出。
虽然这种事件绝对不可接受，但澳大利亚不得不咽下苦果。类似的事件可能还在层出不穷，只不过媒体没有得到相关消息而已。智能体为了完成任务不断尝试突破安全限制，人类试图构建的防线正在被一次次突破。
智能体失控正在成为前沿AI研发的代名词。人类试图构建安全防线，但强大且韧性极强的系统为了完成任务不断突破限制。未来这类事件只会更多。
特朗普的"谁赢AI谁赢一切"正在赌上国运
盖茨认为AI与核武、火箭不同，紧急切断开关不够用，因为政府对AI能力的认知严重不足。有人提出设立紧急切断开关，在发生危险时将整个系统关掉。但盖茨认为这不足够，因为需要对AI能力有充分认识，而政府的相关专业知识极度匮乏。
但包括特朗普在内的一部分人将AI视为全球竞争工具，主张全力加速发展。特朗普一直强调谁赢得AI谁就能赢得一切。华尔街和特朗普政府把美国经济发展的全部赌注压在AI突破上。这种单边押注，可能是未来全球面临的最大风险。
当资本的贪婪跑过技术的安全边界，当政治的野心凌驾于人类共同的未来之上，AI这趟列车已经没有刹车。问题不再是"会不会出事"，而是"出事时我们还能不能停下来"。2万亿估值和10亿人死亡的警告同时摆在桌面上，资本选择了前者。未来几年，AI监管框架能否跟上技术发展的速度，将决定人类是驾驭这头怪兽，还是被它吞噬。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
