上海
财联社11月4日讯（编辑 黄君芝）在人工智能（AI）引爆全球担忧之际，全球知名网络安全巨头CrowdStrike宣布推出“AI终止开关”。消息公布后，其股价周二上涨超过1%。
当地时间周二，CrowdStrike表示，该公司在其Falcon Guardian平台中开发了一个“AI终止开关”（AI Kill Switch），可在企业内部的AI智能体偏离预期、表现出恶意或失控行为时，由安全人员实时终止其运行、阻止其再次启动，并切断其企业网络访问权限。
“人工智能安全是充分发挥人工智能优势的关键。部署带有终止开关的代理程序，就能保持控制权，”CrowdStrike首席执行官兼创始人George Kurtz在一份新闻稿中表示。
CrowdStrike首席商务官Daniel Bernard则称，“拥有控制与关闭的能力，能够做出决策并决定（是否关停），我认为这对AI应用的下一个阶段至关重要。”
近期一连串备受瞩目的的网络攻击事件，为建立某种紧急关停机制的呼声增添了紧迫感。7月由失控的OpenAI智能体策划的“抱抱脸入侵事件”尤其令企业界警觉。上周，币安披露了有记录以来规模最大的加密货币网络攻击；黑客近期还攻击了法国超市的数百台冰箱与冰柜。
今年夏季，美国国会议员提出了要求AI公司在模型中内置关停能力的两党联合法案。但批评者认为，要跨越多个系统、数据中心与复杂的AI模型去实施一个紧急停止按钮，其复杂度远超现实。
Bernard指出，在客户使用其Falcon平台的系统中，终止开关的工作原理类似于断路器。该流程可以检测内部代理的活动，但需要人工决定是否切断代理的访问权限并恢复其访问权限。
“如果你在根目录终止一个进程，而我们又拥有根目录的访问权限……结果就非常非此即彼，”他补充说：“要么你终止人工智能和代理，要么你不终止，然后你再汇报结果。”
CrowdStrike进一步补充称，终止开关不会删除代理的代码，而是通过相连的AI网关，切断其对影响决策的AI模型的访问。
在人工智能时代，企业正迅速采用自主工具，但往往缺乏必要的安全保障和保护措施。CrowdStrike 认为其新工具将使公司能够及时阻止AI代理的“不当行为”，同时为创新留出空间。
此外，CrowdStrike还宣布了收购AI可观测性初创公司Fiddler AI与AI安全测试公司Dreadnode的计划。为了满足日益增长的安全需求，CrowdStrike及其竞争对手正在迅速收购网络安全初创公司。对人工智能安全工具的需求也推动了更广泛的网络安全并购浪潮。
（财联社 黄君芝）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
