美讯0506｜白宫考虑加强对人工智能审查

速览

1.白宫在新的霍尔木兹海峡行动前向伊朗发出了私人信息

2.白宫考虑加强对人工智能审查

1.白宫在新的霍尔木兹海峡行动前向伊朗发出了私人信息

Axios5月5日报道，知情人士透露，一位特朗普政府高级官员5月3日告知伊朗，美即将采取行动“引导”船只通过霍尔木兹海峡，并警告德黑兰不要干预。报道称，这条私人信息表明，白宫希望降低局势潜在升级的风险。但尽管发出警告，伊朗方面仍对美海军舰艇、商船和阿联酋发动了一系列袭击。报道称，部分美以官员认为，如果外交僵局持续，特朗普可能会在本周晚些时候下令恢复战争。

2.白宫考虑加强对人工智能审查

《政治报》（Politico）5月5日报道，据七位匿名科技行业代表和政策顾问透露，特朗普政府正在考虑一系列行政措施，以应对先进人工智能模型带来的日益严重的安全风险。在近期与业界的会谈中，白宫提出了签署行政命令、建立审查机制的可能性，以评估前沿人工智能模型的影响。两位业界代表和一位熟悉相关讨论的人工智能政策专家均证实了相关会谈。报道称，人工智能政策专家和行业代表表示，审查流程可能要求人工智能公司在发布先进模型之前获得政府的批准。随着越来越多的公司同意自愿提交其模型供政府审查，有关对先进人工智能进行正式部署前审查的讨论也随之展开。5月5日，特朗普政府与微软、xAI和谷歌DeepMind等顶级人工智能公司签署协议，允许其在发布前评估这些模型是否存在国家安全风险。审查人工智能只是白宫目前正在考虑的行政措施之一，其他措施还包括提出新的法案来应对人工智能的安全风险，并限制该行业对抗政府安全和政策要求的能力。知情人士透露，政府正在考虑一项长达16页的行政命令，该命令将禁止私营部门“干预”政府对人工智能模型的使用。另据四位熟悉该提案的人士称，该命令还将对联邦供应商制定更严格的合同签订和终止标准。报道称，系列条款大概率与近期国防部与Anthropic僵局有关。

报道称，拟议的人工智能行政令的其他部分旨在解决前沿人工智能带来的网络安全风险，特别是Anthropic公司新推出的Mythos模型。虽然Anthropic公司尚未公开发布Mythos，但各国政府和大型机构的早期测试表明，它能够以人类黑客无法做到的方式发现并利用软件漏洞。知情人士透露，这份长达16页的行政命令将制定技术指南和最佳实践，以确保开源模型的安全。另据知情人士透露，白宫还在考虑是否借助情报部门的力量，帮助保护系统免受尖端人工智能模型的威胁。此外，特朗普政府正在努力成立一个委员会，审查针对Anthropic的供应链风险认定，但目前尚不清楚这是否会成为拟议的人工智能行政命令的一部分。曾任拜登政府新兴技术顾问、现任进步研究所研究员的赛义夫·汗表示，他认为Mythos的出现“正在改变白宫关于人工智能和国家安全的讨论”。赛义夫·汗称，在此之前，我认为人们对人工智能持轻视态度。现在，许多人都非常认真地对待这个问题。纯粹的、硅谷风险投资式的AI政策制定方式，在特朗普政府时期或许已经结束了。报道称，多位人士提醒，政企间磋商结果仍不稳定。目前正在进行的磋商标志着特朗普政府的政策方针发生了重大转变。此前，在大卫·萨克斯和马克·安德森等奉行自由放任主义的风险投资家的敦促下，白宫对人工智能行业的监管采取了不干预的态度。这一明显的政策转变在科技界引起了担忧，一些业内人士担心政府对人工智能加强管控会减缓创新。信息技术与创新基金会受Anthropic、微软和其他科技公司支持，该智库主席丹尼尔·卡斯特罗称，没有人希望看到……一个发布下一代人工智能模型还需要获得政府许可的世界，我们已经见识过硅谷的速度，也见识过华盛顿的速度，它们的运作节奏截然不同。卡斯特罗称，要想与东大竞争，我们需要迅速行动。

编辑 | 琳琳