河南
你敢信吗，现在居然有人打AI的主意，想用它搞生物武器？美国一家头部AI公司最近曝出大动静，自己家的AI模型被不少人动了歪心思，其中就有瞄准生物武器研发的，这事闹得沸沸扬扬，涉事人员账户全被封，还有前员工辞职爆料直指行业致命风险，连美国总统顾问都公开喊着要调查了。
这事是涉事公司Anthropic自己在最新报告里披露的，梳理了过去八个月里多起滥用自家AI模型的事，连当家聊天机器人克劳德都牵扯其中。公司明确说，今年已经成功拦下多起企图利用自家AI研发生物武器的尝试。这家公司一直对外标榜自己是AI圈里最重视安全的第一梯队，这回的操作也算是放到聚光灯下检验了。
有科学家主动绕开平台的安全限制，给来自“受限制地区”的用户开了权限，就为了能用上Anthropic的AI模型。这些人还特意掩盖自己的真实研究目的，就是为了躲开平台的安全防护措施，现在所有涉事账户都已经被封。Anthropic也没有一口咬死这些研究一定是恶意的，只是坦言没法确认对方到底是做合法研究还是另有图谋。
毕竟生物学研究本来就是双刃剑，正经的合规研究能催生出新疫苗，给全人类带来福祉，落到别有居心的人手里，就能改造出危险的病原体。这回被曝出的具体案例里，就有一名科学家找克劳德帮忙，撰写基孔肯雅病毒研究的资助申请。基孔肯雅病毒本来就有现成疫苗，对它的研究可以合法开发疫苗，但也能被改造出致病性更强的“超级病原体”版本。
更让人心头发紧的是，这项研究本来就计划放在一家军事研究机构开展。Anthropic的威胁情报负责人接受采访时直接说，没人能百分百确定这项研究是不是奔着武器化去的，但军事机构搞这种功能获得性研究，换谁都得捏一把汗。战略风险委员会的高级研究员提到，现在还有国家在研发被国际禁止的生物武器，绝对不能让这些研究人员拿到能力这么强的AI模型。
这次曝出的案例，就是让人后背发凉的实锤，说明已经有国家支持的生物武器研发者，盯上了飞速发展的AI技术。除了生物武器相关的尝试，Anthropic还揪出了不少别的滥用情况。有些疑似政府背景的行为体，想利用克劳德开发各类武器的设计软件，从小口径枪械到大射程导弹，从武装无人机到炸弹都涉及。还有人拿克劳德做工具，针对异见人士和海外侨民群体搞监控。
俄罗斯国家媒体还被曝出用克劳德制作选举宣传内容，其中就包含针对摩尔多瓦议会选举的虚假信息。其实在这份报告公布之前，就有内部人员先跳出来爆了料。曾经在Anthropic工作的研究员雅各布·考克森早早辞了职，公开指责Anthropic还有行业里的竞争对手，根本没有认真应对AI带来的潜在风险。
考克森放出来的话相当吓人，他说按照现在行业里的发展节奏，AI可能在本世纪20年代末就会杀死全人类，AI是人类历史上造出来过的最危险的技术。他还说，现在各大公司拼了命抢赛道搞更强的AI，技术升级的速度，远远超过了安全防护体系建设的速度，完全是拿全人类的性命当赌注。
这番话发在社交平台上之后直接炸了锅，累计浏览量超过1亿次，整个拿到了巨额投资的AI行业都被拉到公众面前重新审视。考克森是在自己手里的股权兑现前辞的职，等于直接放弃了公司估值暴涨能带来的巨额收益，这份操作也让不少人觉得他的爆料更有可信度。
报告发布几个小时前，美国总统科学技术顾问委员会主席戴维·萨克斯就公开表态，要求对Anthropic展开调查，还要求在调查完考克森的所有指控之前，先暂停Anthropic计划好的首次公开募股。这段时间外界对AI安全性的担忧本来就在不断升温，这事一出直接把矛盾摆到了台面上。
Anthropic这次并没有披露被封禁账户对应的研究人员或者机构名称，也没说这些科学家来自哪个国家，更没有详细说涉及哪些生物制剂。公司解释说，这是因为相关研究的目标本身就没有确认，不方便透露更多信息。一直以来Anthropic都对外主打“安全优先”的人设，还呼吁行业建立一个合法可核验的机制，让开发者能协调推出能力越来越强的大模型。
Anthropic的竞争对手OpenAI，也一直在业内推动制定更严格的AI安全标准。其实回过头看，这事本质上就是AI发展速度太快，配套的安全笼子还没跟上，谁也没法保证不会有人拿着先进技术干出危害全人类的事。生物武器本来就是全人类碰不得的红线，要是真让AI给生物武器研发开了绿灯，后果真的不堪设想。
现在业内吵成这样，也给所有人敲了个警钟，AI带来的便利再多，安全这根弦也绝对不能松。
参考资料：央视新闻 美国AI公司称阻止多起利用AI研发生物武器活动
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
