网易首页 > 网易号 > 正文 申请入驻

AI脑回路竟和人类如此相似,OpenAI最新研究引热议

0
分享至

  

浩楠 晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI

  两个月前轰动网络的AI设计大师CLIP,刚刚被OpenAI“扒开”了脑子。

  没想到,这个性能强大的AI竟然和人类思维方式如此相像。



  打个比方,无论你听到“炸鸡”二个字,还是看到炸鸡食物,都可能流口水。因为你的大脑里有一组“炸鸡神经元”,专门负责对炸鸡起反应。

  这个CLIP也差不多。

  无论听到“蜘蛛侠”三个字,还是看到蜘蛛侠的照片,CLIP的某个特殊区域就开始响应,甚至原本用来响应红色和蓝色的区域也会“躁动”。


  OpenAI发现,原来CLIP有一个“蜘蛛侠神经元”。

  在脑科学中,这并不是啥新鲜事。因为早在15年前,研究人脑的科学家就发现了,一张脸对应一组神经元

  但是对AI来说却是一个巨大的进步。过去,从文字到图像,和从图像到文字,用的是两套系统,工作方式都不一样。

  而CLIP却有着和人脑极为相似的工作方式,CV和NLP不仅技术上打通,连脑子里想的都一样,还有专门的处理区域。

  看到二者如此相像,有网友表示:

  

太可怕了,这说明通用人工智能(AGI)到来,比所有人想象的都快。


  而且,OpenAI还惊讶地发现,CLIP对图片的响应似乎类似于癫痫患者颅内神经元,其中包括对情绪做出反应的神经元。说不定AI今后还能帮助治疗神经类疾病。

  AI的“脑子”,其实和人类一样

  先前请回顾一下,CLIP到底是神马。

  不久前,OpenAI发布了脱胎于GPT-3的DALL·E,能按照文字描述准确生成图片。


  DALL·E对自然语言和图像的理解和融汇贯通,做到了前无古人的水准。一经问世,立刻引来吴恩达、Keras之父等大佬点赞。


  而DALL·E的核心部分,就是CLIP。

  简单的说,CLIP是一个重新排序模型,检查DALL·E所有生成结果,挑出好的展现出来。

  CLIP能做“裁判”,离不开将文字和图片意义“融合”理解的能力,但这样的能力从哪来,之前人们根本不清楚。

  OpenAI紧接着深挖CLIP神经网络的原理结构,发现了它的多模态神经元,具有跟人类大脑类似的工作机制:能够对文字和图像中的相同意义同时做出响应


  而所谓模态,是指某个过程或某件事,包含多个不同的特征,图像通常与标签和文本解释相关联,是完整理解一个事物的要素。

  比如,你看到蜘蛛侠三个字,或者是Spiderman,都能联想起穿着红蓝紧身衣的超级英雄。

  熟悉这个概念以后,看到这样一幅黑白手绘,你也能马上明白这是“蜘蛛侠”:


  CLIP中的多模态神经元,能力与人类没有任何区别。

  这样专门负责某个事物的神经元,OpenAI发现了好几个,其中有18个是动物神经元,19个是名人神经元。

  甚至还有专门理解情绪的神经元:


  其实,人本身就是一个多模态学习的总和,我们能看到物体,听到声音,感觉到质地,闻到气味,尝到味道。

  为了让AI摆脱以往“人工智障”式的机械工作方式,一条路径就是让它向人一样能够同时理解多模态信号。

  所以也有研究者认为认为,多模态学习是真正的人工智能发展方向。

  在实现过程中,通常是将识别不同要素子网络的输出加权组合,以便每个输入模态可以对输出预测有一个学习贡献。


  根据任务不同,将不同的权值附加到子网后预测输出,就能让神经网络实现不同的性能。

  而具体到CLIP上,可以从研究人员的测试结果中清楚的看到,从语言模型中诞生的它,对于文字,比对图像更加敏感。

  攻击AI也更容易了

  但是,文字和图像在AI“脑海”中的联动是一把双刃剑。

  如果我们在贵宾犬的身上加上几串美元符号,那么CLIP就会把它识别为存钱罐。


  OpenAI把这种攻击方式叫做“印字攻击”(typographic attacks)。

  这意味着,我们可以在图片中插入文字实现对AI的攻击,甚至不需要复杂的技术。

  只需一张纸、一支笔,攻破AI从未如此容易。

  苹果就这样被改装成了“苹果”iPod。


  CLIP:iPod就是“苹果”产品,没错啊~

  甚至还有网友把苹果改装成了图书馆。


  中国网友应该更加熟悉,看来我们可以像用符咒封住僵尸一样封住AI。


  在防止对抗攻击这件事上,CLIP还有很多工作要做。

  AI黑匣子没那么黑

  即便如此,“多模态神经元”依然是在AI可解释性上的重要进展。

  可用性和可解释性就像鱼和熊掌。

  我们现在用的正确率最高的图像识别模型,其可解释性很差。而可解释AI做出的模型,很难应用在实际中。

  AI并不能满足于实用。AI医疗、无人驾驶,如果不能知其所以然,伦理道德就会受到质疑。

  OpenAI表示,大脑和CLIP这样的合成视觉系统,似乎都有一种非常相似的信息组织方式。CLIP用事实证明,AI系统并没有我们想象的那么黑。

  CLIP不仅是个设计大师,它还是一个开放大脑的AI,未来也许减少人工智能错误与偏见。

  参考链接:
[1] https://openai.com/blog/multimodal-neurons/
[2] https://www.axios.com/openai-vision-recognition-system-bias-fadb191c-de0f-46c5-a5a8-ef5ae7421c9e.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐

“我们就是要把中国打造成坏蛋!”美记者摊牌,我大使怼得漂亮

娱乐的攻略
2021-04-11 22:59:28

卡戴珊三姐未修照片流出,团队全网疯狂删图,网友都迷惑了

英国那些事儿
2021-04-11 03:17:52

美国一组织打算颁奖蔡英文,加拿大政府不淡定了,打算撤销金援

海峡导报社
2021-04-12 09:45:05

死亡自己会知道?科学家:心脏停跳后,大脑将创造一个极乐世界!

星辰大海路上的种花家
2021-04-11 16:45:37

著名经济学家郎咸平:中国的保险都是骗人的

桃烟读史
2021-04-11 17:25:02

因结婚照太美,4名小偷去而复返,欺辱女主人8小时后将其杀害

泪咽且无声
2021-04-09 12:38:54

市场份额跌至4%,鸿蒙系统还能不能救华为?

科技你懂的
2021-04-12 10:00:35

海胆蒸蛋没海胆:3月刚去三亚玩,总结三个字——贵、狠、坑

夏主编旅游攻略
2021-04-12 01:18:24

台积电断供华为的影响,终于放大到了自己身上

阿兴娱乐站
2021-04-12 13:27:34

李思思央视厕所门口拍视频,身材矮小被嘲脸长,拍摄结束一秒变脸

守捉使
2021-04-11 20:21:14

美国相继搞垮五个世界第二后终于等到中国,专家却坦言:这次难了

观言问史迹
2021-04-12 05:30:02

伊朗石油源源不断赴华,美国警告必须停止,中伊直接用人民币结算

烽火崛起
2021-04-08 16:17:14

邓小平与金庸的唯一一次单独会面,袒露自己坚持不做主席的真实原因

文汇报
2021-04-07 12:51:31

身材圆润怎么办?别忽略了穿搭的细节,开衩长裙穿出你的美!

魔女健身
2021-04-12 11:49:37

几天不打扫,密闭屋子就会出现很多“毛毛”,这都是些什么东西?

消费生活报
2021-04-12 15:39:44

小姐姐穿超短裙,简直是光腿神器,性感漂亮

动物峙界
2021-04-12 09:45:04

“错换”人生事件真相未明,又连出几件怪事,案件更加扑朔迷离

多动宝儿
2021-04-12 09:28:52

大阵仗!白宫召集“二十路诸侯”开芯片会议,台积电、三星参会

前瞻网
2021-04-12 11:58:06

乱世,人不如狗!

汉周读书
2021-04-12 08:54:31

12年前,在老戏骨李丁的葬礼上,张国立怒吼邓超:滚出去

五美吟
2021-04-09 20:23:45
2021-04-12 16:05:08
量子位
量子位
追踪人工智能动态
4755文章数 96052关注度
往期回顾 全部

科技要闻

外媒热议:中国重罚阿里巴巴彰显反垄断决心

头条要闻

财务3年挪走公司7000万:查封8套房 预计可追回6000万

头条要闻

财务3年挪走公司7000万:查封8套房 预计可追回6000万

体育要闻

提气!曼联连轰3球逆转热刺 卡瓦尼鱼跃

娱乐要闻

宋佳单手托腮对镜放电显熟女风情

财经要闻

汽车要闻

奥迪电动旗舰亮相 e-tron GT综合续航488公里

态度原创

艺术
旅游
时尚
游戏
公开课

艺术要闻

大运河博物馆七月开馆

旅游要闻

广西有多少条最美公路?答案是每一条

专访王菊:人要性感,穿要大胆

《仙剑奇侠传》上架Steam 15日正式发售

公开课

冯唐:混得再差别碰这2件事,会越来越没前途