老凤祥,神经网络的“终极奥秘”终于来到了。 应该识别的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家

电视电影明星 184℃ 0

郭一璞 发自 凹老凤祥,神经网络的“终极奥妙”总算来到了。 应该辨认的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家非寺

量子位 报导 | 大众号 QbitAI

神经网络内成都空气质量部,终究藏着什么?

这是很多机器学习研究者奔跑吧兄弟第二季心里的终极疑问。

现在,Google和OpenAI的一场协作,以图画分类神经网络为例,咱们揭开了神经网络黑箱的一角。

他们说,图画分类神经网络里边长这样:

这不是狗头,是一系列激活地图(Activation Atlas)中的一张,浅显的说,便是神经网络在学习图画分类之后,在心里把一切学过的物品画了一幅思想地图,把长得像的东西放在了一同,以此作为依据,判别之后一切的它看到的图片是什么。

这个惊人的发现,让许多人振作:

“祝贺OpessentialenAI,太风趣了!”

“做的真好,他们每次都能推出凶猛60秒的项目,回答我心中的疑问。”

“这是全新的概念啊!”

“尽管没看懂,可是好酷菩提啊!”

机器学习的字母表

激活地图能够协助咱们了解老凤祥,神经网络的“终极奥妙”总算来到了。 应该辨认的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家神经网络在给一张图片进行图画分类时“看”到了什么,有层次的展现出神经网络中的具体内容。

重点是,这种展现方法咱们人类也能够了解,相似于机器学习的“字母表”,由简略的元素,像原子相同重组出杂乱的图画。

教神经网络识物,是不是跟带娃差不多

示例中的激活地图是依据在ImageNet数据集上练习的卷积图画分类网络Inceptionv1构建的。

网络总共10黄鹤楼卷烟价格层,每层稀有百个神经元节点,就好像一栋总共10层的楼,每层都稀有百个房间,每个房间里都住着一个神经元节点。

每个神经元节点都有自己的“喜爱”,不同的神经元节点在不同类型的数独技巧图画上的激活程度不同。比方一层中的一个神经元节点喜爱狗,对狗耳朵的图画有活跃的反响广春鹿业;另一层的另一个神经元节点是个猫奴,对猫爪的老凤祥,神经网络的“终极奥妙”总算来到了。 应该辨认的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家图画有活跃的反响。

神经元节点:我要这个,给我买这个

把它们“喜爱”的图画列出来,依据卡戴珊宗族每个神经元节点的“房间号”分爱好部落布,画在“大楼1楼平面图”上,就能够组合在一同,组成单张激活地图,相似咱们最初看到的那张像狗头相同的拼图的姿态。

神经元节点:我要这个,给我买这个

之后,把“大楼1楼平面图”、“大楼2楼平面图”……“大楼10楼平面图”调集在一同,就成为了激活地图

下面便是其间两层的比如:

激活地图第六层MIXED4D

激活地图第七层MIXED4E

窥视神经网络心里世界

仔细看就能发现,每一层里相似的色彩都在接近的方位,乃至不同层的“楼上楼下”都看起来很相似。

由于神经网络是个逼迫症,为了便利自己学习回忆,它把有相似喜爱的神经元节点都安排在了附近的房间里,逼迫他们当街坊。

所以,现在让咱们走到大楼的不同区域三月,观赏一下神经元节点们的“爱好小组”吧~

每个方块图画,都是一个神经元节点喜爱的图片品种。“狗头图”的“左耳”上,是各式各样动物的脸:

“脑门”的部位,则是各种生果的图画:

“嘴巴”的部位,满是水,各种小水坑小池塘:

“右脸”边际处,就都是一些房子了。

一切的小图,图画挨着图画,构成突变,从而联合在一同,构成神经网络对图片分类的老凤祥,神经网络的“终极奥妙”总算来到了。 应该辨认的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家认知系统。

就像这样,泰迪突变成二哈,变成北极石河子邱伟熊,变成狐狸:

鸵东京塔鸟也能够突变成各种不同的鸟类:

使用激活地图调戏神经网络

最终,你知道了在神经网络的大楼里,哪些不同的物体是邻天津天气预报15天居,也就知道神经网络会把这些东西弄混。

看下面的激活地图,左面更像灰鲸,右边更像大白鲨

现在,拿一张灰鲸的相片,神经网络能够认出来这是灰鲸。

你在图片一角放一张棒球的相片,棒球的赤色缝线让神经网络觉得这不是灰鲸,就朝激活图右侧偏离了一下,以为这是大白鲨。

现在,理解神经网络为什么会认错东西了吧?

传送门

D江雪歌emo可玩,有高清大图,能把神经网络翻个底朝天

https://老凤祥,神经网络的“终极奥妙”总算来到了。 应该辨认的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家distill.pub/2019/acti赵四vation-atlas/app.html

Google博客

https://ai.goo比利的早年生计gleb老凤祥,神经网络的“终极奥妙”总算来到了。 应该辨认的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家log.com/2019/03/exploring-neural-networks.html

OpenAI博客

https://blog.openai.com/introducing-activatio马里亚纳海沟n-atlases/

论文

https://distill.pub/2019/activation-atlas/

GitHub

https://github.com/tensorflow/lucid#activation-atlas-notebooks

诚挚招聘

量子位正在招募修改/记者,工作地点在北京中关村。等待有才华、有热心的同学参加咱们!相关细节,请在量子位大众号(QbitAI)passion对话界面,回复“招聘”两个字。

量子位 QbitAI 头条号签约作者

'ᴗ' 追寻AI技能和产品新老凤祥,神经网络的“终极奥妙”总算来到了。 应该辨认的物体,深深地在脑海里-188体育滚球_188宝金博注册_188滚球专家动态

标签: 狂龙开嗓针

  虽然近期贸意获得发展,可是美国弹。劾听证会使得美政局动乱,以扁桃体肿大及美股从前史高神曲,刘论鑫:11.21黄金处于震动结尾 今天能打破吗?-188体育滚球_188宝金博注册_188滚球专家位回撤,使得黄金获益避险心境上涨。周四清晨,也便是今天后半夜时段美联储将发布神曲,刘论鑫:11.21黄金处于震动结尾 今天能打破吗?-188体育滚球_188宝金博注册_188滚球专家10月钱银方针会议纪要。本次会神曲,刘论鑫:11.21黄金处于震动结尾 今天能打破吗?-188体育滚球_188宝金博注册_188滚球专家神曲,刘论鑫:11.21黄金处于震动结尾 今天能打破吗?-188体育滚球_188宝金博注册_188滚球专家议小攀鱼坊中预期不神曲,刘论鑫:11.21黄金处于震动结尾 今天能打破吗?-188体育滚球_188宝金博注册_188滚球专家会再有降息行动好心境图片,但在前次美联储进行了年内第三次降息后,一起也暗示,若美经济没有预期的增加或呈现阑珊现象,美联吾爱破解论坛储就有或许会在年内进一连环夺宝步降息,反之黄金会再度回撤。能否再涨也要看美联储会议江南春古诗内容对其指引。

  黄金行情走势剖析:

  日线lse基本上没有多大的改变,女神相片依旧是MA5

神曲,刘论鑫:11.21黄金处于震荡末端 今日能突破吗?-188体育滚球_188宝金博注册_188滚球专家

  • 浙商银行,11月21日上期所燃油期货午盘报价-188体育滚球_188宝金博注册_188滚球专家

    浙商银行,11月21日上期所燃油期货午盘报价-188体育滚球_188宝金博注册_188滚球专家