网易首页 > 网易科技 > 网易科技 > 正文

人类是地球上思想最缜密的动物 研究它才能控制AI

0
分享至

人类是地球上思想最缜密的动物 研究它才能控制AI

【网易智能讯9月15日消息】从科学怪人到机器人,几个世纪以来,我们一直对研发出具有自我意识的生物感到好奇和恐惧。现在,我们正站在逐渐强大的人工智能时代的尖端,我们迫切需要开发各种方法来确保我们的创意做我们想要他们做的事情。

对于人工智能领域的一些人,比如马克·扎克伯格来说,人工智能正变得越来越好,如果出现问题,技术将会解决这些问题。但对于像埃隆·马斯克这样的人来说,现在是时候开始思考如何监管强大的机器学习系统了。

在这一点上,我同意马斯克的观点。但这不是因为我认为好莱坞喜欢吓唬我们的末日场景即将来临,而是因为扎克伯格坚信我们可以解决未来的任何问题,而这取决于马斯克坚持认为我们需要“尽可能多学习”。

我们需要迫切了解的不仅仅只有人工智能工作的方式,还有人类是如何工作的。

人类是地球上思想最缜密的动物 研究它才能控制AI

人类是地球上思想缜密、具备合作能力的物种。在认知和交流中,我们战胜了其他所有的动物——这些工具使我们能够进行劳动分工和适应群居生活,而我们必须依靠他人来完成自己的使命。这就是我们市场经济和政府体系的意义所在。

但是人工智能已经开始使用的复杂认知和语言并不是人类在合作中如此成功的唯一特征。

人类也是唯一一个具备“群体规范”的生物物种,“群体规范”是指一套复杂的规则和规范体系,规定了人们可接受和不可接受的行为,并通过集体努力来惩罚那些违反规则的人。

许多这样的规定可以由监狱和法院的官员执行,但最简单、最常见的惩罚是在团体中实施的:那就是批评和排斥——比如拒绝在公园、市场或工作场所与那些违反规范的人一起相处。

当谈到人工智能自我意志的风险时,我们真正担心的是他们是否会继续发展下去,并帮助执行我们的规则。

到目前为止,人工智能社区和资助人工智能安全研究的投资者——比如马斯克和好几个基金会——主要求助于伦理学家和哲学家的建议,来帮助他们构建一个能带来良好效果的人工智能。像NickBostrom这样的思想家提出了关于人工智能和人工智能研究人员应该关心的重要问题。

但我们复杂的社会规范,与其说是道德选择,不如说是关于如何协调数十亿人在个人行为上所做出的数以百万计的选择。

我们真正无法理解的是,这种协调是如何完成的。文化是一套规则,但改变它的因素——有时是缓慢的,有时是快速的——我们都还没有完全理解。法律是另一套规则,我们可以很简单地改变其理论,但改变其现实生活中的实践就并非易事了。

人类是地球上思想最缜密的动物 研究它才能控制AI

因此,对于我们这一群体的新成员来说,人工智能是引起怀疑的原因:他们了解些什么,是什么激励着他们,他们对我们显示出多大的尊重,以及他们愿意为生活中的冲突找到建设性的解决方案吗?如果人工智能系统是用来读取和参与系统的,那么它将只能集成到我们复杂的规范系统中。

在未来,人工智能将会变得更加普及,人们将会定期与机器互动——有时甚至是在不知情的情况下。当未来一些汽车取代我们进行自动驾驶和相互交谈时,那我们想要驾驶或遵守交通法规时会发生什么呢?我们会不会相信机器人能够照顾好我们在学校里的孩子,或者在养老院照顾好我们年迈的父母呢?

社会心理学家和机器人专家正在思考这些问题,但我们需要对这类问题进行更多的研究,更多地关注系统的功能,而不仅仅是单个机器或某个过程的设计。这将需要那些考虑规范系统设计的人的专业知识。

我们是否已经准备好了开始构建具备规范系统的人工智能——制定出它们自己的规则,即机器可接受和不可接受的行为——以便协调它们之间的互动?我预计这种情况将会发生:与人类一样,人工智能也需要有一个依据来预测其他机器将会做什么。

我们已经看到了人工智能给他们的开发者带来了惊喜,即他们通过创建自己的语言来提高他们在合作任务上的表现。但Facebook并不接受人工智能的合作能力——而是开发出一种人类无法理解的语言——但这未必是一种长远的选择。

正如人工智能研究人员StuartRussell所强调的那样,智能机器将会发现,如果它们死了,它们就无法完成人类的任务——因此,我们现在必须开始思考如何设计系统,确保它们继续重视人类的安排和监督。

要打造智能机器,我们需要遵循人类群体的规则,而这些规则多样化并相互冲突,有时候也并不成熟,所以我们需要更多地了解是什么让我们每个人每天都愿意这么做。

(选自:techcrunch 作者:GillianHadfield 编译:网易见外智能编译平台审校:Simone)

相关推荐
热点推荐
全网吐槽!巴黎世家推出12000元“垃圾袋”,网友纷纷晒同款

全网吐槽!巴黎世家推出12000元“垃圾袋”,网友纷纷晒同款

上海新闻广播
2022-08-09 22:01:03
武汉糖水爷爷遭遇网暴,被迫不摆摊,你们达到目地了

武汉糖水爷爷遭遇网暴,被迫不摆摊,你们达到目地了

九度观察
2022-08-09 20:58:59
当初她参加完好声音后,误打误撞嫁给爱奇艺总裁,婚后生活怎样?

当初她参加完好声音后,误打误撞嫁给爱奇艺总裁,婚后生活怎样?

革爱影娱
2022-08-08 21:52:21
董宇辉被“雪藏”道理很简单,这个平台叫东方甄选,不叫董宇辉

董宇辉被“雪藏”道理很简单,这个平台叫东方甄选,不叫董宇辉

香粽综艺
2022-08-09 10:45:05
李立群发声表立场,被指害怕内地产业冻结,其上海豪宅估值破千万

李立群发声表立场,被指害怕内地产业冻结,其上海豪宅估值破千万

综艺不八卦
2022-08-10 04:57:19
马英九和吕秀莲分别发声

马英九和吕秀莲分别发声

SteiniStudio
2022-08-06 18:05:09
Popeyes上海四家门店暂停营业 员工说消息来得很突然

Popeyes上海四家门店暂停营业 员工说消息来得很突然

澎湃新闻
2022-08-09 16:36:36
致死率超40%,我国发现新病毒“琅琊”,山东河南已成危险区域

致死率超40%,我国发现新病毒“琅琊”,山东河南已成危险区域

奇点使者
2022-08-09 14:16:40
最新!华为重磅发布

最新!华为重磅发布

每日经济新闻
2022-08-09 07:37:08
李亚鹏酒后吐真言:王菲预留一个房间,不管是谁都不让进!

李亚鹏酒后吐真言:王菲预留一个房间,不管是谁都不让进!

老狼追星
2022-08-09 14:15:39
太痛心!近日,天津某小区发生意外:一家4口一夜之间离世三个

太痛心!近日,天津某小区发生意外:一家4口一夜之间离世三个

静坐菩提树
2022-08-10 01:07:35
杨幂拍维密大片,穿蕾丝内衣深V吊带裙,上围丰满宛如性感尤物

杨幂拍维密大片,穿蕾丝内衣深V吊带裙,上围丰满宛如性感尤物

摩西观娱
2022-08-09 20:11:34
美国主流媒体对佩洛西窜访事件的评价:帮了中国,害了美国

美国主流媒体对佩洛西窜访事件的评价:帮了中国,害了美国

罗富强观察室
2022-08-09 17:07:30
后续来了!网红“小胖科学家”虐狗事件后续来了!

后续来了!网红“小胖科学家”虐狗事件后续来了!

咪咕星人
2022-08-09 20:06:43
里根号再次调头北上

里根号再次调头北上

观察者网
2022-08-09 22:28:09
注意!上海出行有大变化!

注意!上海出行有大变化!

红豆奶茶呗
2022-08-10 00:13:25
毛主席对台湾的精准预言!现在看来一语中的!

毛主席对台湾的精准预言!现在看来一语中的!

界面观察
2022-08-09 18:54:40
泽塔琼斯:53岁美人迟暮,富豪老公很花心,儿女没继承她的高颜值

泽塔琼斯:53岁美人迟暮,富豪老公很花心,儿女没继承她的高颜值

吃瓜的旺仔
2022-08-08 20:54:55
潍坊市中级人民法院未成年人案件审判庭副庭长王宝成接受审查调查

潍坊市中级人民法院未成年人案件审判庭副庭长王宝成接受审查调查

界面新闻
2022-08-09 19:35:06
哥伦比亚新总统就职仪式现“玻利瓦尔剑”,西班牙国王未起身鼓掌,引发争议

哥伦比亚新总统就职仪式现“玻利瓦尔剑”,西班牙国王未起身鼓掌,引发争议

环球网资讯
2022-08-09 20:14:16
2022-08-10 07:40:49

科技要闻

丁香医生、丁香园等系列帐号被禁言

头条要闻

佩洛西回国后首次接受采访 坚称此次访台"绝对值得"

头条要闻

佩洛西回国后首次接受采访 坚称此次访台"绝对值得"

体育要闻

足协公信力丢失 还怎么查“假球”案

娱乐要闻

赵丽颖片场喝奶茶 鼓腮帮可爱似松鼠

财经要闻

汽车要闻

极氪009外观首发 "光之泉"前脸比大劳的亮多了

态度原创

手机
家居
游戏
房产
军事航空

手机要闻

网红手机又翻车?Nothing phone(1)被爆虚标参数

家居要闻

浙江90后美女花400万装400平别墅 仅做2个卧室

“假赛哥”京一发长文道歉

房产要闻

1000万预算,在广州市区买什么豪宅!

军事要闻

陆军炮营实弹演习 火箭炮开火瞬间

进入关怀模式
×