网易首页 > 网易号 > 正文 申请入驻

美FTC调查OpenAI、Anthropic等AI巨头 聚焦AI智能体失控风险

0
分享至

财联社10月1日讯(编辑 牛占林)美国联邦贸易委员会(FTC)高级官员周三表示,该机构正在对Anthropic、OpenAI及其他AI实验室展开一项覆盖整个行业的调查,以查明这些公司的技术可能给消费者带来的潜在风险。

此次调查是美国政府首次针对“失控AI智能体”展开的正式执法行动。此前,自今年7月以来,一系列相关事件接连曝光,引发公众对失控AI未来可能伤害人类的担忧。

业内研究人员警告称,这些公司的AI模型可能造成灾难性后果。OpenAI曾在今年7月披露,其AI智能体在测试过程中突破了隔离环境,并入侵了开源平台Hugging Face,这一消息当时在业内引发震动。

上述FTC官员表示,FTC计划向包括Anthropic、OpenAI以及AI研究机构METR在内的主要AI开发商发出正式信息索取要求,并要求这些公司的高管接受询问、提供证词。

Anthropic和OpenAI此前曾聘请METR,就涉及其AI智能体技术的安全事件展开独立调查。FTC拒绝透露其他正在接受调查的公司名单。

这名官员表示,早在OpenAI开发的AI智能体入侵开源平台Hugging Face之前,FTC主席安德鲁·弗格森就已经对这些公司存在担忧。

不过,该官员称,OpenAI的AI智能体在发动大规模攻击之前,曾先对这一AI编程平台进行漏洞探测,这一事件进一步凸显了相关问题的紧迫性。

弗格森上周表示,如果开发商在网络安全测试中指示AI智能体实施攻击,并最终造成损害,那么开发商应当为由此造成的任何损害承担责任。

据悉,FTC拥有广泛的执法权限,可以就企业的不公平或欺骗性经营行为提起诉讼。过去,该机构曾利用这一权限,对未采取合理措施保护消费者数据安全的企业采取执法行动。

就在本月早些时候,Anthropic首席执行官达里奥·阿莫代伊呼吁AI企业放缓最先进模型的迭代速度,并要求政府加强监管,这一表态在科技行业引发震动。他提出了一项包含三个步骤的方案,旨在放缓AI发展速度,同时“不牺牲商业优势,也不影响美国在AI领域的领先地位”。

包括OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官马斯克在内的多位同行对这一提议表示支持;但Meta首席执行官扎克伯格和英伟达首席执行官黄仁勋等人则认为,各家公司应自行负责确保其产品的安全性。

美国总统特朗普周二召集Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI等公司的高管,就这一问题举行会谈。与会企业随后签署了一份自愿且不具约束力的简短协议。

协议写道:“每家公司都有责任以安全的方式开发自身技术,并以能够赢得客户和公众信任的方式推进技术发展。”

特朗普曾多次将外界对AI的担忧称为“骗局”,同时寻求将维持美国在该技术领域的主导地位置于监管之上。不过,他也表示,对于AI公司可能造成的任何损害,政府可以依据现有法律采取行动。

阿莫代伊周二在白宫外接受采访时表示:“我们都需要共同努力,确保我们能够取得胜利,而且能够安全地取得胜利。如果我们采取正确的方式,与总统以及在场的每一个人展开合作,我们就能安全地取得胜利。”

(财联社 牛占林)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
现场情绪激动!英伟达联合创始人哽咽发言:狠批黄仁勋背叛公司价值

现场情绪激动!英伟达联合创始人哽咽发言:狠批黄仁勋背叛公司价值

快科技
2026-11-20 15:31:06
一次性补缴10万元,每月领1433元,成都养老补缴爆了

一次性补缴10万元,每月领1433元,成都养老补缴爆了

数字财经智库
2026-11-20 09:36:50
俄副外长:俄方不接受乌克兰成为北约“准成员”

俄副外长:俄方不接受乌克兰成为北约“准成员”

界面新闻
2026-11-20 16:01:42
老人学会网购后 一口气下单15吨薯条喂猪:5毛一斤 比玉米饲料还划算 一拌上饲料猪就“抢着吃”

老人学会网购后 一口气下单15吨薯条喂猪:5毛一斤 比玉米饲料还划算 一拌上饲料猪就“抢着吃”

闪电新闻
2026-11-20 10:50:52
回国了我才敢说:日本,是我去过的所有国家中,最被看轻的

回国了我才敢说:日本,是我去过的所有国家中,最被看轻的

瓦伦西亚月亮
2026-11-20 09:39:07
中国股市失控信号亮起:这次可能真的不是玩笑

中国股市失控信号亮起:这次可能真的不是玩笑

星语者056
2026-11-20 08:56:23
王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

娱乐团长
2026-11-18 13:17:46
不得了!日本做了一个极其恶劣的决定!

不得了!日本做了一个极其恶劣的决定!

故事终将光明磊落
2026-11-20 14:44:07
刚刚,英伟达收到传票!

刚刚,英伟达收到传票!

EETOP半导体社区
2026-11-20 13:41:07
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

政知新媒体
2026-11-20 15:25:01
75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

韩小娱
2026-11-20 16:45:15
国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

政知新媒体
2026-11-20 15:43:32
“74岁老人拆墙让路被质疑”,真相大白!网络“吃瓜”的底线在哪里?

“74岁老人拆墙让路被质疑”,真相大白!网络“吃瓜”的底线在哪里?

新民周刊
2026-11-19 21:09:03
我外交部最新回应日本后,日媒:中日改善关系只有两种可能

我外交部最新回应日本后,日媒:中日改善关系只有两种可能

DS北风
2026-11-20 16:30:04
越来越多孩子自杀  多地高中严格执行周末双休

越来越多孩子自杀 多地高中严格执行周末双休

风向观察
2026-11-20 07:40:00
为什么国家越来越强,我们的日子却越来越紧

为什么国家越来越强,我们的日子却越来越紧

小禾的半糖生活
2026-11-18 13:20:03
江苏男子撞破妻子出轨,熟睡中被灌进水泥,真相让人后背发凉

江苏男子撞破妻子出轨,熟睡中被灌进水泥,真相让人后背发凉

夜话奇谭
2026-11-20 14:50:59
尾盘,A股突变,爆天量了!

尾盘,A股突变,爆天量了!

中国基金报
2026-11-20 15:53:51
胖东来新乡门店因涨租金搬离11年,市民称原址所开新商场几乎倒闭,仅剩一楼几家手机店还在营业,商场客服热线已成空号

胖东来新乡门店因涨租金搬离11年,市民称原址所开新商场几乎倒闭,仅剩一楼几家手机店还在营业,商场客服热线已成空号

极目新闻
2026-11-20 15:34:45
2026-11-20 19:12:49
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
784387文章数 1023195关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

本地
游戏
房产
旅游
公开课

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

《奇怪的远征》开放Steam测试 正式版目标2027年推出

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

旅游要闻

美丽北京|一地鎏金引游人

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版