网易首页 > 网易科技 > IT业界 > 正文

ChatGPT之父"夜不能寐":我真担心大模型被滥用

0
分享至

3月21日消息,上周人工智能初创组织OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在接受采访时表示,人工智能可能是“人类迄今为止所开发的最伟大技术”,将重塑现有社会。同时,他也承认这项技术有风险,对此还是“有点畏惧”。

阿尔特曼强调,人工智能会带来真正的危险,但也可能是“人类迄今为止开发出来的最伟大技术”,可以重塑社会、给生活带来翻天覆地的变化。

他说:“我们在这方面必须小心……我认为值得庆幸的是,我们对此有点畏惧之心。”

阿尔特曼在采访中谈到了OpenAI最近发布的最新版人工智能语言模型GPT-4。他强调,ChatGPT的上线需要监管机构和全社会的共同参与,各种反馈有助于阻止人工智能技术给人类带来潜在负面影响。他补充说,自己一直与政府官员保持“定期联系”。

ChatGPT上线仅仅几个月时间,月活用户数量就突破1亿,被公认为历史上增长最快的消费级应用程序。根据瑞银(UBS)的一项研究,TikTok用了9个月才吸引到1亿月活用户,Instagram则用了近三年时间。

虽然尚“不完美”,但阿尔特曼说,GPT-4在美国法考中的成绩位列前10%,在SAT数学考试中也获得了近乎完美的分数。现在GPT-4可以熟练用市面上的大多数编程语言编写计算机代码。

GPT-4只是OpenAI朝着最终打造通用人工智能方面迈出的一小步。当人工智能技术取得突破性进展时,就会出现比人类更聪明的人工智能系统,这就是所谓的通用人工智能。

尽管阿尔特曼赞许自家产品的成功,但也承认人工智能可能存在的危险让他夜不能寐。

阿尔特曼说:“我特别担心这些模型会被用于大规模生成虚假信息。”“既然它们越来越擅长编写计算机代码,那么完全可以用于进攻性网络攻击。”

但阿尔特曼并不认为人工智能模型会像科幻小说所描述那样不再需要人类,可以自行做决定,谋划统治世界。“它等着有人给它输入信息,”阿尔特曼说,“这在很大程度上仍是由人类控制的工具。”

然而,阿尔特曼说自己的确担心哪些人会控制人工智能。他补充说:“总会有人不遵守我们设定的一些安全规则。”“我认为,弄清楚如何对此做出反应、如何监管、如何处理,留给全社会的时间不多了。”

在评论掌握人工智能技术就可能“统治世界”的观点时,阿尔特曼说:“这肯定是一个让人不寒而栗的说法。”“相反,我希望的是,我们不断开发出越来越强大的系统,让人们都可以用不同的方式使用这些系统,让系统融入我们的日常生活,融入经济,去充分发挥人的意愿。”

对错误信息的担忧

根据OpenAI的说法,GPT-4通过迭代有了巨大改进, 比如能将图像理解为输入。演示显示,GTP-4能描述冰箱里的东西,解决谜题,甚至阐明了网络图片背后隐藏的含义。

但阿尔特曼表示,ChatGPT等人工智能语言模型存在的固有问题是错误信息,程序可能会给用户提供事实上不准确的信息。

阿尔特曼说:“我最想提醒人们的是所谓‘幻觉问题’。”“这个模型的确会信誓旦旦地陈述一件事情,让完全捏造的东西也宛如事实。”

根据OpenAI的说法,人工智能模型之所以存在这个问题,部分原因是使用演绎推理而非记忆。

OpenAI首席技术官米拉·穆拉蒂(Mira Murati)曾表示:“GPT-3.5和GPT-4最大区别之一是后者在推理方面的涌现能力更强。”

穆拉蒂说:“我们的目标是人工智能可以预测接下来会出现哪个单词,这就是对语言本质的理解。”“我们希望这些模型能像人类一样看待和理解世界。”

阿尔特曼说:“你要认识到,我们所开发的模型是一个推理引擎,而不是一个存储事实信息的数据库。”“当然,它们也可以作为事实数据库,但这并不是特别之处。我们想让它们实现的是推理能力,而不是记忆。”

阿尔特曼和他的团队希望,“随着时间推移,这个模型将成为真正的推理引擎。”他说,模型最终会依靠互联网信息和自行演绎推理来辨别哪些信息是真实的、哪些是虚构的。根据OpenAI的数据,GPT-4产生准确信息的概率比此前版本要高40%。不过阿尔特曼表示,人们不应该用这一系统当作准确信息的主要来源,并鼓励用户仔细检查程序所生成的结果。

如何防范坏人

很多人也关注ChatGPT和其他人工智能语言模型会生成哪种信息。根据阿尔特曼的说法,ChatGPT不会告诉用户如何制造炸弹,因为系统中设置了安全措施。

“我所担心的是……创造这项技术的不止我们一家,”阿尔特曼说。“总会有人不像我们那样加进去一些安全措施。”

根据阿尔特曼的说法,对于所有这些人工智能的潜在危险而言,还是有一些解决方案和保障措施。其中之一是让全社会在风险较低时随意摆弄ChatGPT,从中了解人们会如何使用它。

穆拉蒂就表示,现在ChatGPT对公众开放的主要原因是从中“收集大量反馈”。她认为,随着公众继续测试OpenAI应用程序,这样就更容易确定哪些地方需要安全措施。

穆拉蒂说:“人们用它们做什么、它有什么问题、有什么缺点,都能够让我们及时介入并改进技术。”

阿尔特曼也强调,公众能够与每个版本的ChatGPT进行互动很重要。他说,“如果我们只是窝在实验室里进行秘密研究,比如说开发出GPT-7,然后一下子公开……我认为这会带来更多负面影响。”“人们需要时间来刷新认知、做出反应,并最终习惯这项技术,我们也需要时间了解系统的缺点在哪里,如何缓解不利影响。”

阿尔特曼透露,OpenAI有一个团队专门制定政策,他们决定哪些信息可以输入ChatGPT,以及ChatGPT能与用户共享哪些信息。

阿尔特曼补充说:“(我们)正在与各位政策和安全专家交流,对系统进行审查,就是想要解决这些问题,并推出自认为安全可靠的东西。”“再说一次,我们不可能一次就做到完美,但吸取教训并在风险相对较低的时候找到安全边界非常重要。”

人工智能会取代工作吗?

人们之所以担心人工智能技术的颠覆能力,其中之一是认为它会取代现有的工作岗位。阿尔特曼说,人工智能可能会在不久将来取代一些工作,关键看这种情况发生的速度有多快。

阿尔特曼说:“我认为,经过几代人的努力,人类已经证实自身能够适应重大技术变革。”“但如果这种情况发生在几年内,我的确最担心会带来哪些变化……”

但他鼓励人们将ChatGPT视为一种工具,而不是自己工作的替代品。阿尔特曼补充说,“人类的创造力是无限的,我们会找到新的工作,会找到新的事情去做。”

阿尔特曼认为,作为人类工具的话,ChatGPT产生的效果大于带来的风险。

他说:“我们口袋里都可以有一位量身定制的大教育家,去帮助我们学习。”“我们可以为每个人提供医疗建议,这是我们今天无法实现的。”

“副驾驶”

由于一些学生用ChatGPT作弊,ChatGPT已经在教育领域引起不少争议。对于ChatGPT是否可以作为学生学习的延伸,或者是否会影响学生的自学动机,教育工作者的意见不一。

阿尔特曼说:“教育方式必须改变,但随着技术的发展,这种情况已经发生过很多次。”他补充说,学生的老师将不再局限于课堂,“最让我兴奋的一点是,它能够为每个学生带来更好的个性化学习。”

阿尔特曼和他的团队希望,任何领域的用户都能将ChatGPT视为自己的“副驾驶”,比如帮助用户编写大量计算机代码或解决问题。

阿尔特曼说:“我们可以为每个行业提供这样的服务,这样人们就可以有更高的生活质量。”“我们还会拥有今天甚至无法想象的新事物,这也是我们的承诺。”(辰辰)

延伸阅读
相关推荐
热点推荐
太阳报:如果英格兰队夺冠,索斯盖特将获得400万英镑的奖金

太阳报:如果英格兰队夺冠,索斯盖特将获得400万英镑的奖金

懂球帝
2024-07-13 01:46:16
我的妈耶,仔细看高圆圆这张照片可真够憔悴的

我的妈耶,仔细看高圆圆这张照片可真够憔悴的

粤姐说情感
2024-07-11 20:26:18
姜萍事件惊人内幕!多个部门出丑,草台班子神造闹剧!

姜萍事件惊人内幕!多个部门出丑,草台班子神造闹剧!

阿握看历史
2024-06-24 17:19:23
老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了

老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了

热闹的河马
2024-06-21 14:35:19
戈兰高地开打,叙军越线激战以军坦克:为何以色列越来越不抗揍了

戈兰高地开打,叙军越线激战以军坦克:为何以色列越来越不抗揍了

青年的背包
2024-07-12 22:53:09
湖北儿媳住院公公陪床,她趁护士换药塞纸条,护士看后直接报警

湖北儿媳住院公公陪床,她趁护士换药塞纸条,护士看后直接报警

一个人讲故事
2024-07-08 21:13:26
黄梅天苹果长出蘑菇,网友晒帖引来中科院博士:有研究价值

黄梅天苹果长出蘑菇,网友晒帖引来中科院博士:有研究价值

澎湃新闻
2024-07-11 17:56:41
不要吹过头了,美国军队眼里真实的中国军队电子战水平

不要吹过头了,美国军队眼里真实的中国军队电子战水平

战域笔墨
2024-07-12 12:31:57
重启汉尼拔指令,自己人都不放过,以媒:大批以民众死在以军手中

重启汉尼拔指令,自己人都不放过,以媒:大批以民众死在以军手中

兵说
2024-07-11 23:30:25
北约秘书长倒打一耙:是中国在欧洲、非洲、北极等地逼近北约

北约秘书长倒打一耙:是中国在欧洲、非洲、北极等地逼近北约

观察者网
2024-07-12 13:50:08
成品油价迎年内第七涨,92号汽油重回“8元时代”

成品油价迎年内第七涨,92号汽油重回“8元时代”

界面新闻
2024-07-11 16:57:43
以前都加柠檬水赖斯:若夺冠,我将喝人生中第一杯真正的啤酒

以前都加柠檬水赖斯:若夺冠,我将喝人生中第一杯真正的啤酒

直播吧
2024-07-12 16:10:14
毛主席南巡散布对林彪的不满,刘丰泄露李作鹏,曾思玉为何能保密

毛主席南巡散布对林彪的不满,刘丰泄露李作鹏,曾思玉为何能保密

寻史者也
2024-07-12 23:54:34
沃特金斯:我们一开始确实踢得不好;亚马尔比16岁的我强多了

沃特金斯:我们一开始确实踢得不好;亚马尔比16岁的我强多了

懂球帝
2024-07-13 01:15:47
费南多申花首训结束,接受采访他说了4句肺腑之言!

费南多申花首训结束,接受采访他说了4句肺腑之言!

田先生篮球
2024-07-12 08:57:41
朝阳群众又出手!在北京抓捕的4位明星,个个臭名远扬、下场凄惨

朝阳群众又出手!在北京抓捕的4位明星,个个臭名远扬、下场凄惨

附允历史观
2024-06-28 10:25:08
白填了,592分瞎冲,竟捡漏华东师大提前批,看了专业后悔死了

白填了,592分瞎冲,竟捡漏华东师大提前批,看了专业后悔死了

娱乐的宅急便
2024-07-12 14:34:01
美下一任总统板上钉钉?特朗普突然情绪失控:中国绝不是敌人!

美下一任总统板上钉钉?特朗普突然情绪失控:中国绝不是敌人!

娱知一二
2024-07-12 11:05:02
美元兑日元暴力拉升

美元兑日元暴力拉升

中新经纬
2024-07-12 07:50:13
申花夏窗捡到宝!费南多刚加盟就被主帅点名夸赞,直言他很有水平

申花夏窗捡到宝!费南多刚加盟就被主帅点名夸赞,直言他很有水平

懂个球
2024-07-12 23:58:16
2024-07-13 02:04:49

科技要闻

百度的萝卜快跑 ,会让1000万司机失业吗?

头条要闻

男童泳池落水23秒后被发现 网红母亲:救生员是摆设吗

头条要闻

男童泳池落水23秒后被发现 网红母亲:救生员是摆设吗

体育要闻

中国男篮好苗子 该如何兑现他的天赋?

娱乐要闻

亲妈太窒息,柳岩和卢昱晓对比太心酸

财经要闻

6月M2同增6.2%上半年存款增11.46万亿

汽车要闻

预计8月份正式上市 五菱星光S内饰细节曝光

态度原创

游戏
教育
亲子
本地
公开课

《英勇之地》评测:沙盒游戏的精选合集,好战玩家的争斗之地

教育要闻

TTS新传论文带读:我的师兄在研究“约pao”哎!!!!新传人从不缺选题!!!

亲子要闻

五个小朋友假期在外婆家相聚,相聚和离别都是生活的样子!

本地新闻

换个城市过夏天 | 摩围山探险之旅

公开课

连中三元是哪三元?

无障碍浏览 进入关怀版
×