网易首页 > 网易科技 > 网易科技 > 正文

首次发现!AI脑回路演化向人类更进一步,OpenAI最新研究引热议

0
分享至

(原标题:首次发现!AI脑回路演化向人类更进一步,OpenAI最新研究引热议,有学者评价:太吓人了)

浩楠 晓查 发自 凹非寺

量子位 报道 | 公众号QbitAI

两个月前轰动网络的AI设计大师CLIP,刚刚被OpenAI“扒开”了脑子。

没想到,这个性能强大的AI竟和人类思维方式如此相像。

打个比方,无论你听到“炸鸡”二个字,还是看到炸鸡实物,都可能流口水。因为你的大脑里有一组“炸鸡神经元”,专门负责对炸鸡起反应。

这个CLIP也差不多。

无论听到“蜘蛛侠”三个字,还是看到蜘蛛侠的照片,CLIP的某个特殊区域就开始响应,甚至原本用来响应红色和蓝色的区域也会“躁动”。

OpenAI发现,原来CLIP有一个“蜘蛛侠神经元”。

在脑科学中,这并不是啥新鲜事。因为早在15年前,研究人脑的科学家就发现了,一张脸对应一组神经元

但是对AI来说却是一个巨大的进步。过去,从文字到图像,和从图像到文字,用的是两套系统,工作方式都不一样。

而CLIP却有着和人脑极为相似的工作方式,CV和NLP不仅技术上打通,连脑子里想的都一样,还有专门的处理区域。

看到二者如此相像,有网友表示:

太可怕了,这说明通用人工智能(AGI)到来,比所有人想象的都快。

而且,OpenAI还惊讶地发现,CLIP对图片的响应似乎类似与癫痫患者颅内神经元,其中包括对情绪做出反应的神经元。说不定AI今后还能帮助治疗神经类疾病。

AI的“脑子”,其实和人类一样

先前情回顾一下,CLIP到底是神马。

不久前,OpenAI发布了脱胎于GPT-3的DALL·E,能按照文字描述准确生成图片。

DALL·E对自然语言和图像的理解和融汇贯通,做到了前无古人的水准。一经问世,立刻引来吴恩达、Keras之父等大佬点赞。

而DALL·E的核心部分,就是CLIP。

简单的说,CLIP是一个重新排序模型,检查DALL·E所有生成结果,挑出好的展现出来。

CLIP能做“裁判”,离不开将文字和图片意义“融合”理解的能力,但这样的能力从哪来,之前人们根本不清楚。

OpenAI紧接着深挖CLIP神经网络的原理结构,发现了它的多模态神经元,具有跟人类大脑类似的工作机制:能够对文字和图像中的相同意义同时做出响应

而所谓模态,是指某个过程或某件事,包含多个不同的特征,图像通常与标签和文本解释相关联,是完整理解一个事物的要素。

比如,你看到蜘蛛侠三个字,或者是Spiderman,都能联想起穿着红蓝紧身衣的超级英雄。

熟悉这个概念以后,看到这样一幅黑白手绘,你也能马上明白这是“蜘蛛侠”:

CLIP中的多模态神经元,能力与人类没有任何区别。

这样专门负责某个事物的神经元,OpenAI发现了好几个,其中有18个是动物神经元,19个是名人神经元。

甚至还有专门理解情绪的神经元:

其实,人本身就是一个多模态学习的总和,我们能看到物体,听到声音,感觉到质地,闻到气味,尝到味道。

为了让AI摆脱以往“人工智障”式的机械工作方式,一条路径就是让它向人一样能够同时理解多模态信号。

所以也有研究者认为认为,多模态学习是真正的人工智能发展方向。

在实现过程中,通常是将识别不同要素子网络的输出加权组合,以便每个输入模态可以对输出预测有一个学习贡献。

根据任务不同,将不同的权值附加到子网后预测输出,就能让神经网络实现不同的性能。

而具体到CLIP上,可以从研究人员的测试结果中清楚的看到,从语言模型中诞生的它,对于文字,比对图像更加敏感。

攻击AI也更容易了

但是,文字和图像在AI“脑海”中的联动是一把双刃剑。

如果我们在贵宾犬的身上加上几串美元符号,那么CLIP就会把它识别为存钱罐。

OpenAI把这种攻击方式叫做“印字攻击”(typographic attacks)。

这意味着,我们可以在图片中插入文字实现对AI的攻击,甚至不需要复杂的技术。

只需一张纸、一支笔,攻破AI从未如此容易。

苹果就这样被改装成了“苹果”iPod。

CLIP:iPod就是“苹果”产品,没错啊~

甚至还有网友把苹果改装成了图书馆。

中国网友应该更加熟悉,看来我们可以像用符咒封住僵尸一样封住AI。

在防止对抗攻击这件事上,CLIP还有很多工作要做。

AI黑匣子没那么黑

即便如此,“多模态神经元”依然是在AI可解释性上的重要进展。

可用性和可解释性就像鱼和熊掌。

我们现在用的正确率最高的图像识别模型,其可解释性很差。而可解释AI做出的模型,很难应用在实际中。

AI并不能满足于实用。AI医疗、无人驾驶,如果不能知其所以然,伦理道德就会受到质疑。

OpenAI表示,大脑和CLIP这样的合成视觉系统,似乎都有一种非常相似的信息组织方式。CLIP用事实证明,AI系统并没有我们想象的那么黑。

CLIP不仅是个设计大师,它还是一个开放大脑的AI,未来也许减少人工智能错误与偏见。

参考链接:

[1] https://openai.com/blog/multimodal-neurons/

[2] https://www.axios.com/openai-vision-recognition-system-bias-fadb191c-de0f-46c5-a5a8-ef5ae7421c9e.html

相关推荐
热点推荐
评论员:梅西可能不理解有些人为什么热衷跟领导握手!

评论员:梅西可能不理解有些人为什么热衷跟领导握手!

历史第一人梅西
2024-02-28 23:40:53
高合正在接触长安汽车协商收购事项

高合正在接触长安汽车协商收购事项

界面新闻
2024-02-28 11:31:27
突然公告,分红派息:多家公司凌晨发布分红,一公司10派8元转4股

突然公告,分红派息:多家公司凌晨发布分红,一公司10派8元转4股

乖巧橙子5x
2024-02-29 00:11:45
勇士新危机引热议!维金斯又因个人原因离队:上季曾连续缺席25场

勇士新危机引热议!维金斯又因个人原因离队:上季曾连续缺席25场

罗说NBA
2024-02-29 07:40:16
女毒枭狱中怀孕内幕:花5000万买通狱警,勾引死刑犯,她怎做到的

女毒枭狱中怀孕内幕:花5000万买通狱警,勾引死刑犯,她怎做到的

写真实故事的张三哥
2024-02-14 07:51:09
闹大了!女子吐槽山东某机场厕所图标分不清,网友看到嘲讽设计人

闹大了!女子吐槽山东某机场厕所图标分不清,网友看到嘲讽设计人

宝哥精彩赛事
2024-02-28 14:59:51
一周内,江苏两地交通局一把手相继落马!

一周内,江苏两地交通局一把手相继落马!

豆豉的美食分享
2024-02-29 02:07:08
慈世平自曝曾对科比喷垃圾话:若姚明健康 火箭能在季后赛胜湖人

慈世平自曝曾对科比喷垃圾话:若姚明健康 火箭能在季后赛胜湖人

罗说NBA
2024-02-29 06:00:47
女性高潮有哪些表现方式,男人请你别再骗自己了

女性高潮有哪些表现方式,男人请你别再骗自己了

皮皮讲文
2024-01-03 10:27:49
湖人对阵快船,赛前决定放弃比赛?詹姆斯差74分达成4万分

湖人对阵快船,赛前决定放弃比赛?詹姆斯差74分达成4万分

大漠风光
2024-02-29 06:40:09
49岁漫威男星因渐冻症离世,与疾病抗争五年多

49岁漫威男星因渐冻症离世,与疾病抗争五年多

红星新闻
2024-02-26 12:01:21
78岁娃哈哈退休职工:命运因宗庆后改变,三次享受福利分房

78岁娃哈哈退休职工:命运因宗庆后改变,三次享受福利分房

澎湃新闻
2024-02-28 21:48:33
4-3!罗马35岁旧将真神了,带队6连胜闪耀法甲,难怪穆帅被解雇

4-3!罗马35岁旧将真神了,带队6连胜闪耀法甲,难怪穆帅被解雇

球场没跑道
2024-02-28 08:03:25
46岁德罗巴秀恩爱!坐拥9位数财富,抛弃10年丑妻,换极品女友

46岁德罗巴秀恩爱!坐拥9位数财富,抛弃10年丑妻,换极品女友

梦与体育
2024-02-28 17:52:41
成吉思汗暴毙内幕:与西夏美妃相关,死因太辣眼,史书不好意思写

成吉思汗暴毙内幕:与西夏美妃相关,死因太辣眼,史书不好意思写

古今档案
2024-02-24 12:42:38
闹大了!取钱一分钟,查户口五分钟,男子霸气回怼:把卡注销了!

闹大了!取钱一分钟,查户口五分钟,男子霸气回怼:把卡注销了!

元爸体育
2024-02-28 18:55:55
21岁港姐冠军超短裙坐姿惹议!变扭麻花疑泄春光?

21岁港姐冠军超短裙坐姿惹议!变扭麻花疑泄春光?

我爱追港剧
2024-02-26 23:24:12
老年痴呆症的前兆,通常会说这些“口头禅”,对照下,看你中几条

老年痴呆症的前兆,通常会说这些“口头禅”,对照下,看你中几条

39健康网
2024-02-27 18:00:03
袁立非常深有体会地说:跟外国人结婚后,你才知道中国男人有多好

袁立非常深有体会地说:跟外国人结婚后,你才知道中国男人有多好

非娱勿扰
2024-02-28 14:12:40
太惨了,食堂女收银员和男厨师被砍死,凶手是女方丈夫,事发上海

太惨了,食堂女收银员和男厨师被砍死,凶手是女方丈夫,事发上海

水晶的视界
2024-02-28 20:28:06
2024-02-29 08:46:44

科技要闻

学者:少吃饭能延缓衰老 这是目前最科学的

头条要闻

马克龙称"西方或向乌派兵" 多个欧洲国家迅速划清界限

头条要闻

马克龙称"西方或向乌派兵" 多个欧洲国家迅速划清界限

体育要闻

不雅动作回应球迷挑衅!C罗遭停赛+罚款

娱乐要闻

李亚鹏直播哭穷,他的卖惨何时停?

财经要闻

江苏安凯特"闯关"IPO:募投项目数据打架

汽车要闻

26.9万起!全新极氪001带来王炸升级

态度原创

数码
家居
本地
亲子
公开课

数码要闻

苹果海外开售官翻 M3 iMac,售价相当于新品八五折

家居要闻

艺术张力,隐身于空间美学

本地新闻

望周知,新加坡是免签了,不是免费了

亲子要闻

开学“收心攻略”来了!家长和孩子必看

公开课

何为人生第一等事?

无障碍浏览 进入关怀版
×