网易首页 > 网易号 > 正文 申请入驻

GPT-4被投诉要求禁用:FTC发布人工智能标准,OpenAI一个都不满足

0
分享至

机器之心报道

编辑:陈萍、小舟

一场围绕「GPT-4安全性」的论战正在如火如荼地进行中。

几天前,马斯克、Yoshua Bengio 等人联名签署公开信,呼吁所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型。现在,又有人要叫停已经发布的 GPT-4。

这次叫停 GPT-4 的是非营利组织人工智能与数字政策中心(CAIDP)。CAIDP 请求美国联邦贸易委员会(FTC)调查 OpenAI 公司并禁止该公司进一步发布 GPT-4。

文件地址:
https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP 向 FTC 提出这份申请的原因是他们认为「OpenAI 发布的消费级产品 GPT-4 存在偏见、欺骗性,并且对隐私和公共安全构成风险。模型的输出无法证明或复现,且在部署之前没有进行独立评估」。

CAIDP 呼吁对美国所有商业人工智能产品进行独立监督和评估,并确保建立必要的「保护措施」,来保护消费者、企业和商业市场。

此前,FTC 已经宣布一个人工智能标准,即「在促进问责制的同时,要求人工智能的使用是透明的、可解释的、公平的,并在经验上是合理的」,CAIDP 称「OpenAI 的 GPT-4 不满足这些要求中的任何一个」。

距离 GPT-4 发布仅过去两周,人们已经对这类强大的 AI 模型产生了巨大的分歧。一方面,想叫停 GPT-4 等强大模型的一类人认为这些模型会给信息安全甚至人类社会构成较大风险;另一方面,一些人认为这正是人工智能蓬勃发展的好时机,我们应该推动技术的加速进步。

有趣的是,OpenAI CEO Sam Altman 发布了一条新推特:「在风暴的中心保持平静。」这或许是他对于最近一系列「暂停 GPT-4 等模型研究」呼吁的回应。

在风险方面,OpenAI 在发布时表示已让外部专家评估 GPT-4 带来的潜在风险。然而,CAIDP 在提交给 FTC 的申请中明确指出 GPT-4 违反了哪些法案。

CAIDP 认为 GPT-4 严重影响了商业公平,称:「GPT-4 的商业发布违反了 FTC 法案第 5 节、FTC 就人工智能产品的使用和广告对企业制定的标准,以及人工智能治理的新兴规范等等。」

此外,OpenAI 没有透露 GPT-4 的任何技术细节。这也是 CAIDP 向 FTC 提出申请的原因之一。

CAIDP 表示:「OpenAI 没有透露有关架构、模型大小、硬件、计算资源、训练技术、数据集构建或训练方法的细节,而研究界通常的做法是记录大型语言模型的训练数据和训练技术,但 OpenAI 选择不为 GPT-4 做这些事。特别地,生成式人工智能模型不是寻常的消费品,因为它们在使用的过程中可能会表现出一些异常行为,而这些行为可能是其发布公司之前没有发现的。」

投诉细节

具体来说,CAIDP 在这份投诉申请中针对 GPT-4 和相关模型 ChatGPT 指出了一系列潜在风险。

例如,OpenAI 在文章《 GPT-4 System Card 》中已经明确表示,GPT-4 可能会强化和重现特定的偏见和世界观,包括对某些边缘群体的刻板印象和贬低联想。CAIDP 还引用了 OpenAI 公司的一篇博文,该博文称类似的大模型 ChatGPT 有时会响应有害指令或表现出有偏见的行为。

在提交给 FTC 的投诉中,CAIDP 表示「OpenAI 在充分了解风险的情况下,还是向公众发布了 GPT-4 ,以用于商业用途」。投诉还称,「《 GPT-4 System Card 》没有提供 OpenAI 在其测试期间进行的安全检查的详细信息,也没有详细说明 OpenAI 为保护儿童采取的任何措施,这也引发了对儿童使用 GPT-4 的担忧。」

CAIDP 还指出了欧洲消费者组织 BEUC 提出的担忧:「如果 ChatGPT 被用于消费者信贷或保险评分,那么它有没有可能会产生不公平和有偏见的结果?」这条推文也被作为引用出现在 CAIDP 的投诉申请中。

另外,在网络安全方面,ChatGPT 可被用于网络钓鱼、制作虚假文本,或是生成恶意代码。在隐私方面,CAIDP 表示本月有报道称 OpenAI 向其他用户显示了私人聊天记录。

在另一个案例中,一位 AI 研究人员介绍了 ChatGPT 是如何接管某人账户,查看聊天记录,并在他们没有意识到的情况下访问他们的账单信息。不过 OpenAI 修复了该漏洞。

CAIDP 还表示,GPT-4 能够从图片输入中提供文本回复,这一功能对个人隐私和个人自主权来说影响巨大,它能让用户将个人图像与详细的个人数据联系起来。据了解,OpenAI 已暂停发布图像到文本功能 ,但真实情况如何还不好说。

CAIDP 认为 FTC 应该禁止 OpenAI 对 GPT 的进一步商业部署,要求在部署之前和整个 GPT AI 生命周期对 GPT 产品进行独立评估,要求 OpenAI 遵守 FTC AI 标准,并建立一个可公开访问的 GPT-4 的事件报告机制,类似于 FTC 报告消费者欺诈的机制。

CAIDP 还敦促 FTC 进一步发布标准规范,以用作「生成式人工智能市场领域的产品基本标准」。

AI 学界,一场论战

从前两天千人联名要求暂停 GPT-4 后续 AI 大模型的研发,到今天 CAIDP 要求 FTC 调查 OpenAI 禁止发布新的商业版 GPT-4。短短一两天时间,各路讨论已经炸开了锅,AI 大佬以及各路大牛纷纷出来公开回应。他们当中有反对的,也有支持的。

在暂停 GPT-4 后续 AI 大模型的研发方面,图灵奖得主 Yoshua Bengio、特斯拉 CEO(OpenAI 联合创始人)伊隆・马斯克、纽约大学名誉教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等都是赞成派,他们已经在暂停巨型 AI 实验公开信上签了名。值得注意的是,CAIDP 的总裁兼创始人 Marc Rotenberg 也签署了这份公开信。

公开信地址:
https://futureoflife.org/open-letter/pause-giant-ai-experiments/

不过一直抨击 ChatGPT 的 Yann LeCun 公开表示不会签署这封公开信,不同意这封公开信的内容。

俄勒冈州立大学名誉教授 Thomas G. Dietterich 在推特上表示「我也没签。这封信充斥着一堆可怕的修辞和无效或不存在的政策。一些重要的技术和政策问题,都在努力解决中。」 LeCun 公开表示「我同意」。

吴恩达也发文公开反对千人联名,并表示:「GPT-4 在教育、医疗保健、食品等方面都有很多新的应用,会帮助很多人。除非政府介入,否则实施暂停并阻止所有团队扩大 LLM 规模是不现实的。此外,让政府暂停他们不了解的新兴技术是反竞争的,这样就开了一个糟糕的先例,也是糟糕的政策。」

随后田渊栋也支持吴恩达的观点,「表明自己不会签署暂停令。并表示这种事情一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。我们应该换个角度向前看,更好地理解 LLM,适应它并利用其力量,感受热度。」

刚刚宣布离开谷歌大脑的 Yi Tay(之前是谷歌大脑的高级研究员)表示:「如果禁言在网上胡乱讨论 LLM 的人 6 个月,我会签名。」

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
跑得快又省油的保时捷上新,太尊了!

跑得快又省油的保时捷上新,太尊了!

汽车之家
2024-03-28 23:00:34
以色列拟对极端正统派征兵,引发强烈反对

以色列拟对极端正统派征兵,引发强烈反对

环球时报国际
2024-03-28 07:04:11
仁川冠军赛:3:2!女单16强出炉!早田希娜酣战5局艰难出线!

仁川冠军赛:3:2!女单16强出炉!早田希娜酣战5局艰难出线!

小马哥谈体育
2024-03-28 22:15:36
国台办话音刚落,台绿营称两岸已经分开,双方应该“好聚好散”

国台办话音刚落,台绿营称两岸已经分开,双方应该“好聚好散”

李大娱乐糊涂
2024-03-29 09:10:07
拉塞尔:和詹姆斯当队友时,我们赢球!和科比当队友则输球!

拉塞尔:和詹姆斯当队友时,我们赢球!和科比当队友则输球!

历史第一人梅西
2024-03-29 10:00:40
华为宣布4月8日再开新品发布会:智界S7有望重新上市!博主:先看小米SU7定价,再重新规划定价和配置

华为宣布4月8日再开新品发布会:智界S7有望重新上市!博主:先看小米SU7定价,再重新规划定价和配置

和讯网
2024-03-28 12:24:07
中泰潜艇合约新动向,泰国彻底不要了转而购买军舰,这是啥操作?

中泰潜艇合约新动向,泰国彻底不要了转而购买军舰,这是啥操作?

淡然小司
2024-03-29 07:07:41
周五下午,突然曝出1重大消息,与咱中国息息相关!要来大动作吗

周五下午,突然曝出1重大消息,与咱中国息息相关!要来大动作吗

股市皆大事
2024-03-29 14:18:13
雷军:我是特斯拉车主,也是保时捷车主,小米不可能全面碾压他们

雷军:我是特斯拉车主,也是保时捷车主,小米不可能全面碾压他们

三言科技
2024-03-27 13:36:05
广东一高校原党委书记,退休7年后被开除党籍

广东一高校原党委书记,退休7年后被开除党籍

中国青年报
2024-03-28 21:24:09
又签了!23-24赛季第二份大合同!NBA最佳中锋倒在中国联赛……

又签了!23-24赛季第二份大合同!NBA最佳中锋倒在中国联赛……

篮球实战宝典
2024-03-28 18:14:48
美专家:美军若介入台海战争,只有两个结果,接受战败与中国和解

美专家:美军若介入台海战争,只有两个结果,接受战败与中国和解

星辰故事屋
2024-03-24 19:36:51
5人服用日本小林制药保健品后死亡

5人服用日本小林制药保健品后死亡

界面新闻
2024-03-29 10:23:14
暴徒刚认罪,俄专机直飞北京,普京想要的答案,中方给的很爽快

暴徒刚认罪,俄专机直飞北京,普京想要的答案,中方给的很爽快

阿宇观天下
2024-03-28 15:12:39
经典画面!李铁场边大声指挥:阿兰MOVE!阿兰MOVE!

经典画面!李铁场边大声指挥:阿兰MOVE!阿兰MOVE!

直播吧
2024-03-29 09:18:54
40+31+31!登顶历史第一,浓眉含泪感谢老詹,湖人已经没有退路了

40+31+31!登顶历史第一,浓眉含泪感谢老詹,湖人已经没有退路了

巴叔GO聊体育
2024-03-29 13:15:26
辽宁一女主任被执行注射死刑,短短5分钟结束了她罪恶的一生

辽宁一女主任被执行注射死刑,短短5分钟结束了她罪恶的一生

安妮Emotiong
2024-03-24 19:50:03
重庆农商行原党委委员、副行长舒静被查

重庆农商行原党委委员、副行长舒静被查

新京报
2024-03-29 16:13:20
A股:又有消息出炉,下周,A股要继续大涨还是准备下跌了?

A股:又有消息出炉,下周,A股要继续大涨还是准备下跌了?

财经大拿
2024-03-29 14:59:45
不卖了!15亿交易撤回!违约还赚10亿!

不卖了!15亿交易撤回!违约还赚10亿!

柚子说球
2024-03-29 12:33:20
2024-03-29 19:12:49
机器之心Pro
机器之心Pro
专业的人工智能媒体
8839文章数 141871关注度
往期回顾 全部

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

万科上市30多年来首次不分红 三名高管降薪至每月1万

头条要闻

万科上市30多年来首次不分红 三名高管降薪至每月1万

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

艺术
时尚
游戏
本地
亲子

艺术要闻

艺术开卷|从闺阁、庭院到郊野,古画中的女性生活空间

孙艺珍生完孩子,玄彬老了十岁

人狠话不多的黄泉,正是星铁对于紫发御姐的全部理解

本地新闻

专访|张伟潮:最年轻的龙头专职制造者

亲子要闻

宝宝头发制成光头后

无障碍浏览 进入关怀版