网易首页 > 网易号 > 正文 申请入驻

下最后通牒:周五前必须无限制开放!五角大楼怎么与一家AI公司杠上了?

0
分享至



据环球网消息,美国国防部长赫格塞思日前下最后通牒,勒令美国人工智能公司Anthropic在27日前必须同意开放其人工智能(AI)技术,供军方无限制使用,否则将失去政府合同。

尽管有迹象显示Anthropic迫于压力正在调整其安全政策,但五角大楼与Anthropic之间的紧张关系被认为凸显特朗普政府与部分AI企业在AI安全标准上的分歧。

威胁不听话就严惩

赫格塞思被曝当地时间24日与Anthropic首席执行官达里奥·阿莫迪会晤。

在这场气氛紧张严肃的会谈中,赫格塞思以国家安全为由,要求阿莫迪在本周五前达成协议,允许军方不受限制地使用其AI模型,否则将面临严厉惩罚。

据知情人士透露,相关惩罚包括将Anthropic列为“供应链风险”企业,从而取消价值2亿美元的政府合同。

此举通常仅针对与外国对手有关联的企业,若给一家美国科技公司扣上这顶帽子将是史无前例的。

据当地时间25日传出的最新消息,五角大楼已要求波音和洛克希德·马丁两家公司提供对Anthropic旗下AI模型“克劳德”(Claude)依赖程度的评估。

美国舆论认为,这一动作标志着五角大楼朝着将Anthropic指定为“供应链风险”企业迈出了第一步。

与此同时,为迫使Anthropic就范,赫格塞思还威胁将动用《国防生产法》。

《国防生产法》赋予美国政府在战争或国家紧急状态时期对私营公司的广泛权力,包括强制私营公司接受并优先履行国防所需的特定合同。

那么,Anthropic在担心什么?为何要与军方硬顶?

简言之主要有两点:生怕相关AI技术被用于开发类似无人机的全自动武器或大规模监控美国公民。

阿莫迪曾多次表达对政府不受监管地使用AI技术的担忧。他在24日会晤时再向赫格塞思划定上述两条红线。

Anthropic还曾要求五角大楼在使用其产品时设立安全“护栏”。

但五角大楼坚称其如何使用产品不应受到干涉。

赫格塞思表示,当美国政府采购波音公司的飞机时,波音无权干涉五角大楼如何使用这些飞机,军方使用AI产品时也应如此。

安全理想受挑战

外界认为,Anthropic与五角大楼之间的矛盾凸显特朗普政府与部分人工智能企业在AI安全标准与军方应用边界上的深刻分歧。

去年夏天,五角大楼宣布,将向Anthropic、谷歌、OpenAI和马斯克的xAI四家人工智能公司授予国防合同。每份合同价值高达2亿美元。

Anthropic是第一个获准进入军方机密系统的公司,因为其旗下的“克劳德”模型被认为是应用于敏感军事领域的最先进、最安全的AI模型。

“克劳德”也是目前唯一在军方机密系统中运行的AI模型。在上月突袭委内瑞拉的军事行动中,美军使用了“克劳德”。据称Anthropic已对此表达担忧。

五角大楼官员透露,虽然寻求惩罚Anthropic,但也担心失去“克劳德”使用权后的潜在后果。

五角大楼已接触其他AI公司以寻求替代方案。

马斯克的xAI本周获准将其模型Grok应用于军方机密环境,但目前尚不清楚其能否取代“克劳德”。

相比OpenAI、谷歌、xAI都同意政府在任何“合法”场景中使用其人工智能模型,Anthropic颇有个性,是迄今唯一一家尚未完全向美国军方开放AI技术的公司。

自2021年离开OpenAI创立Anthropic以来,阿莫迪一直倡导对人工智能实施更严格、更负责任的安全标准。

然而,特朗普政府倾向于采取较宽松的AI监管方式,认为严格监管会扼杀创新,使美国人工智能产业丧失竞争力。

有评论指出,赫格塞思坚持要求人工智能公司无条件开放其模型访问权限,甚至不惜动用胁迫手段,显示出特朗普政府希望比中国等对手更快、更有效地将人工智能融入到军事的方方面面。

乔治城大学安全与新兴技术中心分析副主任兼研究员欧文·丹尼尔斯表示,五角大楼的不确定性正在考验Anthropic的安全理想。

丹尼尔斯指出,Anthropic的同行都愿意遵守国防部关于将AI模型用于所有合法用途的政策。因此,在这起争端中,Anthropic的议价能力有限,并且可能在未来五角大楼推动采用人工智能的进程中失去影响力。

虽然Anthropic在24日的会面中并未软化立场,但有迹象显示该公司正对其安全承诺作出调整,以便在与其他AI同行的竞争中保持优势。

在其发布的最新版《负责任扩展政策》中,Anthropic已将原有刚性的安全政策改为较有弹性的安全框架。

这是否意味着其安全底线在政治或商业压力下逐步后移甚至未来可能与五角大楼达成和解,都有待观察。

(编辑邮箱:ylq@jfdaily.com)

原标题:《下最后通牒:周五前必须无限制开放!五角大楼怎么与一家AI公司杠上了?》

栏目主编:杨立群 文字编辑:杨立群 题图来源:新华社

来源:作者:解放日报 廖勤

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

上观新闻 incentive-icons
上观新闻
站上海,观天下
440808文章数 759612关注度
往期回顾 全部

专题推荐

洞天福地 花海毕节 山水馈赠里的“诗与远方

无障碍浏览 进入关怀版