网易首页 > 网易科技 > 网易科技 > 正文

OpenAI发布完整版自动文本生成系统 专家担忧被滥用

0
分享至

(原标题:OpenAI has published the text-generating AI it said was too dangerous to share )

网易科技讯 11月8日消息,据外媒报道,人工智能研发组织OpenAI日前发布了其完整版的自动文本生成AI系统,专家警告称该系统可能被用于恶意目的。

OpenAI最初在今年2月宣布了名为GPT-2的系统,但由于担心它会被用来传播假新闻、垃圾邮件和虚假信息,因此保留了该程序的完整版本。但该机构发布了不太复杂的GPT-2简化版本,借此研究人们对其接受情况。OpenAI现在表示,该组织没有看到GPT-2“被滥用的确凿证据”,为此决定发布其完整版本。

GPT-2是新一代文本生成系统的一部分,这些系统给专家留下了深刻印象,它们能够从最少的提示中生成连贯的文本。该系统接受了从网上抓取的800万份文本文档的培训,并对用户提供的文本片断作出响应。例如,给它个假标题,它就能写出新闻报道;给它一首诗的第一行,它就能续写整首诗。

要弄清楚GPT-2的输出有多好有点儿困难,但该模型经常产生既令人害怕又令人信服的文字,这些文字常常会给人一种充满智慧的感觉。不过,随着使用这个系统的时间足够长,它的局限性也变得很明显,尤其是其面临长期一致性的挑战。例如,在故事中始终如一地使用同样的人名或坚持某个角色独有的个性。

除了推出GPT-2的更多原始功能外,该模型的发布也是关于AI研究人员减轻其工作造成伤害的责任的持续辩论的一部分。专家指出,容易获得的尖端AI工具可能也更容易滥用。例如,我们已经看到使用深度伪造(deepfakes)来生成复仇色情内容的趋势。由于这种担忧,OpenAI限制了其模型的发布。

然而,并不是每个人都对OpenAI的做法表示欢迎。许多专家批评这一决定,称此举限制了其他人可以为减轻该模型危害而进行的研究,而且它也引发了关于“AI危险”的不必要炒作。研究人员Delip Rao曾说:“‘太危险’这个词在没有经过深思熟虑或实验的情况下就被随意抛出了。我不认为OpenAI花了足够的时间来证明GPT-2真是危险的。”

在本周发布的完整版中,OpenAI指出,GPT-2可能被误用,该组织还援引第三方研究称,该系统可能有助于对极端意识形态立场进行“广泛宣传”。它也承认,担心该系统会被用来产生大量连贯的垃圾邮件,使社交媒体等在线信息系统不堪重负,但这些担心尚未成为现实。

OpenAI还指出,其研究人员已经创建了自动系统,可以约95%的准确率识别GPT-2的输出内容,但这个数字还不够高,不足以进行“独立检测”,这意味着任何用于自动识别假文本的系统都需要与人类审核人员配合。这类合作并不罕见,因为这些任务经常依赖于人类来识别假图像和视频。

OpenAI表示,它将继续观察GPT-2如何被社区和公众使用,并将进一步制定其负责任AI研究的政策。(小小)

相关推荐
热点推荐
特朗普挨个点名美国城市,没一个比得过深圳,鲁比奥把话说透了!

特朗普挨个点名美国城市,没一个比得过深圳,鲁比奥把话说透了!

讲者普拉斯
2026-11-21 23:47:34
赖清德曾表示:大陆将台湾称为中华人民共和国台湾省、把台湾说成中国的一部分,而台湾一直是中国的一个省,这种说法从根上就站不住脚

赖清德曾表示:大陆将台湾称为中华人民共和国台湾省、把台湾说成中国的一部分,而台湾一直是中国的一个省,这种说法从根上就站不住脚

人生录
2026-11-20 00:15:04
到了高中,你会发现:考700分需要顶级天赋,考600分需要一般天赋,考550分不需要天赋

到了高中,你会发现:考700分需要顶级天赋,考600分需要一般天赋,考550分不需要天赋

好爸育儿
2026-11-13 08:33:19
国际金价,大幅下跌

国际金价,大幅下跌

上观新闻
2026-11-21 09:34:27
37分!18篮板!11助攻!联盟第1!MVP大黑马诞生

37分!18篮板!11助攻!联盟第1!MVP大黑马诞生

微评体育圈
2026-11-21 09:19:07
当大伙都在为 token 发愁时,豆包工作快把花费干成 0 元了?

当大伙都在为 token 发愁时,豆包工作快把花费干成 0 元了?

差评XPIN
2026-11-21 01:35:08
走过三年牛市,黄金何去何从?

走过三年牛市,黄金何去何从?

财经杂志
2026-11-21 00:08:54
A股:已经不必等开盘了,下周11月23日-11月27日,将要这样走

A股:已经不必等开盘了,下周11月23日-11月27日,将要这样走

云鹏叙事
2026-11-21 13:01:14
四部委发文了!公交补贴取消?老年卡作废?真相来了,别被忽悠

四部委发文了!公交补贴取消?老年卡作废?真相来了,别被忽悠

独舞独舞
2026-11-20 20:46:13
土耳其人:这么贵的东西中国人天天当水喝?真是羡慕中国人!

土耳其人:这么贵的东西中国人天天当水喝?真是羡慕中国人!

抽象派大师
2026-11-10 18:27:26
盛世脆断之前,无人感到安全

盛世脆断之前,无人感到安全

海涛评论
2026-11-20 00:44:37
起床人还好好的,突然就倒下了……浙江有医院近半个月收治超百起脑梗

起床人还好好的,突然就倒下了……浙江有医院近半个月收治超百起脑梗

都市快报橙柿互动
2026-11-21 17:58:15
官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

林轻吟
2026-11-10 07:17:48
全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

LULU生活家
2026-09-30 20:32:43
打四份工月入三万,几乎不休息:浙江媒体的“励志叙事”,我们该不该鼓掌?

打四份工月入三万,几乎不休息:浙江媒体的“励志叙事”,我们该不该鼓掌?

迷世书童
2026-11-20 16:06:47
不忍了!北约突然掀桌,准备直捣俄罗斯腹地

不忍了!北约突然掀桌,准备直捣俄罗斯腹地

今观天下
2026-11-07 07:49:23
香菜成为焦点!调查发现:经常吃香菜的人,一段时间后或有5变化

香菜成为焦点!调查发现:经常吃香菜的人,一段时间后或有5变化

芹姐说生活
2026-10-22 19:41:56
冷空气硬闯南岭!广东被拉入降温群聊,今年买羽绒服风向大变

冷空气硬闯南岭!广东被拉入降温群聊,今年买羽绒服风向大变

最新声音
2026-11-21 22:00:52
不是万项!不是赵松源!U17国少惨败西班牙后,我们却意外找到国足中场未来核心‍

不是万项!不是赵松源!U17国少惨败西班牙后,我们却意外找到国足中场未来核心‍

篮球圈里的那些事
2026-11-21 18:42:28
1999年,赖昌星带着3700万元进京,想打点海关总署副署长牟新生,结果连面都没见上;回去后他对厦门海关关长放话:以后想办法把他除掉

1999年,赖昌星带着3700万元进京,想打点海关总署副署长牟新生,结果连面都没见上;回去后他对厦门海关关长放话:以后想办法把他除掉

人生录
2026-11-06 07:30:25
2026-11-22 02:40:49

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

墨西哥女总统发布深圳行vlog

头条要闻

墨西哥女总统发布深圳行vlog

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
教育
时尚
数码
公开课

手机要闻

iPhone Air 2最新机模曝光!后置双摄 新增4800万像素超广角

教育要闻

2026-2027年度“地球小博士”报名来了,小博士”11套真题免费下载

提升冬日幸福感的8件小事,太治愈了

数码要闻

华为星芒OSTA O1 Pro发布: 5499元起 搭载HarmonyOS 7 AI先锋版

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×