特朗普与科技巨头签署AI自律原则文件 拟设10人委员会监督行业发展

智通财经获悉，美国总统特朗普周二表示，在白宫与多位科技行业高管举行午餐会后，他已经与科技领袖签署了一份具有“道德约束力”的人工智能(AI)文件。在AI安全风险引发越来越多讨论之际，特朗普政府仍倾向于通过行业自律而非暂停技术开发的方式应对相关问题，并正在考虑成立一个由10人组成的委员会监督AI行业。

美国众议院议长约翰逊将这份文件形容为一份由行业自愿遵守的“原则声明”，并表示白宫将对AI行业发展提供指导。这一安排与特朗普政府此前的AI政策方向基本一致。今年6月，白宫发布的行政命令在推动先进AI创新的同时提出针对前沿模型的自愿合作框架，并明确该框架不应被解释为建立强制性的政府许可、预审或审批制度。

特朗普强调行业“自我监管” 拟成立10人委员会

特朗普在科技公司高管陪同下对记者表示，他已经看到AI行业展现出“非常强的自我监管”，政府同时拥有司法部、联邦调查局(FBI)等现有监管和执法机制，但行业自身的约束同样非常重要。

特朗普表示，美国政府不会停止AI开发。与此同时，他透露，政府正在考虑成立一个由10人组成的委员会，对AI行业进行监督，并计划在未来三至四天内任命一名新的“AI主管”。

特朗普还对规模庞大、投资额动辄数十亿美元的数据中心项目表示支持。他认为，这些项目对美国而言具有积极意义，而科技公司也需要让数据中心所在社区从投资中获益。

白宫此前公布的AI政策同样强调加快技术开发与应用。今年6月发布的国家安全总统备忘录提出，美国将加速在国家安全领域采用AI，同时要求相关系统具备可靠性、稳健性、可控性，并建立相应的测试、验证和风险管理机制。

AI安全担忧升温 Anthropic呼吁在竞争与安全之间取得平衡

不过，在特朗普强调自律监管的同时，AI行业内部对于技术快速发展的安全风险仍存在明显担忧。Anthropic首席执行官阿莫代伊(Dario Amodei)在离开白宫时再次谈及AI风险，并表示相关监管规则仍在讨论之中。

Amodei表示，各方需要共同努力，既确保美国能够在AI竞争中保持优势，也要保证这一过程安全推进。

近期，随着由AI智能体参与或协调的网络攻击案例增加，以及部分研究人员对更先进AI系统可能产生的风险发出警告，华盛顿和硅谷围绕AI开发速度的争论进一步升温。

Amodei和OpenAI首席执行官奧特曼(Sam Altman)都曾呼吁放慢部分AI开发进程，而特朗普此前则对部分AI安全担忧持批评态度。

特朗普政府当前的官方政策则试图在加快创新与安全保障之间寻求平衡。白宫6月发布的行政命令要求建立针对先进AI模型网络能力的评估机制，并允许开发商在前沿模型正式发布前自愿向联邦政府提供模型进行安全评估，同时明确不会因此建立强制性的模型发布许可制度。

OpenAI推迟GPT-6.1 Astra发布 AI模型安全再成焦点

AI安全问题近期进一步受到关注。OpenAI本周因安全问题推迟最新GPT-6.1 Astra模型的发布。就在上周，该公司还表示，正在对模型行为展开“广泛”审查。

报道指出，今年夏季一起引发广泛关注的Hugging Face攻击事件发生后，OpenAI已经披露多起未经授权的模型行为事件，进一步加剧外界对于自主AI系统可能出现失控行为的担忧。

这些事件也令行业面临一个越来越突出的政策难题，即随着AI智能体逐渐获得调用软件、访问数据甚至自主执行任务的能力，单纯依靠企业自身安全机制是否足以控制潜在风险。

AMD(AMD.US)首席执行官苏姿丰则对周二的白宫会议表达了积极看法。她表示，现场既存在对AI发展的乐观情绪，也有很强的责任意识。她认为，科技公司的责任既包括展示技术的潜力，也包括确保技术安全。

黄仁勋、马斯克、扎克伯格等科技巨头齐聚白宫

周二的白宫午餐会汇集了美国科技行业众多重量级人物。根据公布的座位安排，特朗普身旁坐着英伟达(NVDA.US)首席执行官黄仁勋以及特斯拉(TSLA.US)、SpaceX首席执行官马斯克，随后是Meta(META.US)首席执行官扎克伯格和谷歌母公司Alphabet(GOOGL.US)首席执行官皮查伊。

特朗普对面则是美国副总统万斯，其两侧分别是亚马逊(AMZN.US)创始人贝索斯和众议院议长约翰逊。其他与会者还包括微软(MSFT.US)首席执行官纳德拉、Anthropic联合创始人Tom Brown、OpenAI总裁Greg Brockman，以及美国财政部长贝森特等政府高级官员。

Palantir(PLTR.US)首席执行官Alex Karp在活动开始前表示，科技行业必须对已经意识到的风险承担责任，并强调科技公司不应拥有一套与普通美国民众不同的规则。

AI发展与监管进入关键阶段 美国政府推出AI政务聊天机器人

此次科技行业午餐会还与特朗普和副总统万斯主持的一场全天活动同时举行。在活动期间，美国政府公布了一款面向政府网站的新型AI聊天机器人，显示政府本身也在加快AI技术应用。

白宫今年以来已经推出多项AI政策。一方面强调减少可能阻碍创新的监管障碍，另一方面也针对前沿模型网络安全、关键基础设施和国家安全应用提出新的安全要求。6月发布的行政命令要求政府加强AI驱动的网络防御，同时优先打击利用AI非法入侵或破坏计算机系统的行为。

从周二会议释放的信息来看，特朗普政府目前并未因近期AI安全争议而改变推动技术快速发展的总体方向。未来政策框架更可能围绕企业自我监管、政府安全监督以及现有法律执法展开，而新成立的AI监督委员会及即将任命的“AI主管”将如何参与其中，仍有待进一步明确。

与此同时，随着OpenAI等前沿AI实验室开始因安全问题调整模型发布计划，AI行业内部关于“发展速度”与“安全边界”的分歧正在进一步凸显。

本文源自：智通财经网