当前位置:今期特马刘伯温玄机图 > 人工神经网络 >

【深度学习模型哪个最像人脑?】MIT等人工神经网络评分系统Dense

  原标题:【深度学习模型哪个最像人脑?】MIT等人工神经网络评分系统,DenseNet实力夺冠!

  【新智元导读】人工神经网络的终极目标应当是能够完全模拟生物神经网络。而随着ANN的不断发展,已然呈现出了许多性能优秀的模型。由MIT、NYU、斯坦福等众多著名大学研究人员组成的团队,便提出了brain-score系统,对当今主流的人工神经网络进行评分排名。本文便带读者了解一下在众多人工神经网络中,最为贴近生物神网络的那些ANN。

  虽然ANN发展到现在也无法完全模拟生物大脑,但是技术是一直在进步的。那么问题来了:

  在功能方面与大脑最相似的神经网络,将包含与大脑最近似的机制。因此,MIT、NYU、斯坦福等众多知名大学联手开发了“大脑评分”(brain - score)。

  这是一种综合了多种神经和行为基准的测试方法,可以根据神经网络与大脑核心对象识别机制的相似程度对其进行打分,并用这个方法对最先进的深层神经网络进行评估。

  以下是对衡量模型基准的概述。基准由一组应用于特定实验数据的指标组成,在这里可以是神经记录或行为测量。

  神经度量的目的是确定源系统(例如,神经网络模型)的内在表征与目标系统(例如灵长类动物)中的内在表征的匹配程度。 与典型的机器学习基准测试不同,这些指标提供了一种原则性的方式来优先选择某些模型(即使它们的输出相同)。 我们在此概述了一个常见的度量标准——神经预测性,它是线性回归的一种形式。

  神经预测性用于评估源系统(例如,深度ANN)中给定图像的响应对目标系统中的响应(例如,视觉区域IT中的单个神经元响应)的预测程度。 作为输入,该度量需要两个刺激×神经元这种形式的集合,其中神经元可以是神经记录或模型激活。

  首先,使用线性变换将源神经元映射到每个目标神经元,这个映射过程是在多个刺激的训练-测试分割上执行的。

  在每次运行中,利用训练图像使权重适应于从源神经元映射到目标神经元,然后利用这些权重预测出的响应得到held-out图像。

  为了获得每个神经元的神经预测性评分,通过计算Pearson相关系数,将预测的响应与测量的神经元响应进行比较。

  计算所有单个神经类神经预测值的中位数(例如,在目标大脑区域测量的所有目标位置),以获得该训练-测试分割的预测得分(因为响应通常非正常地分布,所以使用中值)。所有训练-测试分割的平均值即目标大脑区域的最终神经预测得分。

  目前这个版本的大脑评分中包含的两个神经基准,其使用的神经数据集包括对88个V4神经元和168个IT神经元的2,560个自然刺激神经响应(如图1):

  图1 大脑评分概述使用两类指标来比较神经网络:神经指标将内部活动与macaque腹侧流区域进行比较,行为指标比较输出的相似性。对于小的、随机组合的模型(灰点),大脑得分与ImageNet的性能相关,但是对于当前最先进的模型(绿点)来说,其性能在70%的前1级变得很弱。

  该图像集由2560张灰度图像组成,分为八个对象类别(动物、船只、汽车、椅子、人脸、水果、平面、桌子)。每个类别包含8个独特的对象(例如,“face”类别有8张独特的脸)。图像集是通过在自然主义背景上粘贴一个3D对象模型生成的。在每个图像中,随机选择对象的位置,姿势和大小,以便为灵长类动物和机器创建具有挑战性的物体识别任务。 每个图像都使用了圆形掩模。

  行为基准的目的是在任何给定任务中计算源(例如,ANN模型)和目标(例如,人类或猴子)的行为响应之间的相似性。对于核心对象识别任务,灵长类动物(包括人类和猴子)表现出与ground-truth标签不同的行为模式。因此,这里的主要基准是一个行为响应模式度量,而不是一个全面的准确性度量。ANN能够生成和预测灵长类动物的成功和失败模式,因此可以获得更高的分数。这样做的一个结果是,达到100%准确率的ANN不会达到完美的行为相似性评分。

  总量为i 的图像数据源(模型特征)首先使用可用的行为数据转换为目标类别c和图像ib的一个矩阵ib×c。

  当前一轮基准测试中使用的行为数据是从Rajalingham等人与2015和2018年的研究论文中获得的。这里我们只关注人类行为数据,但是人类和非人类灵长类动物行为模式非常相似。

  此数据收集中使用的图像集与V4的图像生成方式类似,并且使用了24个对象类别。数据集总共包含2,400个图像(每个对象100个)。在这个基准测试中,我们使用了240张(每个物体10张)获得最多试验的图像。1472名人类观察者对亚马逊土耳其机器人提供的图像进行了简短的响应。在每次试验中,一幅图像呈现100毫秒,然后是有两个响应选择,一个对应于图像中出现的目标对象,另一个是其余23个对象。参与者通过选择图像中呈现的对象来响应。因此,对于每一个target-distractor对儿,从多个参与者中共获得了超过三十万的响应。

  为了评估一个模型整体表现的好坏,我们将神经V4预测得分、神经IT预测得分和行为I2n预测得分做一个组合计算来得到大脑评分。这里给出的脑分数是这三个分数的平均值。这种方法不能通过不同的分数尺度进行标准化,因此它可能会惩罚低方差的分数,但它也不会对分数的显著差异做出任何假设,这些差异会出现在排名中。

  该团队检查了大量在ImageNet上训练的深层神经网络,并将它们的内在表征与V4、IT和人类行为测量中的非人类视觉皮层区域的神经记录进行了比较。

  以往的研究发现,分类性能较高的模型更容易预测神经数据。 在这里,我们通过证明这种性能驱动的方法在广泛的ImageNet性能体系中在多个深度神经网络上进行评估时,广泛意义上扩展了这项工作,但是在达到人类性能水平时未能产生与大脑完全匹配的网络( 见图1)。

  相比之下,ImageNet性能和行为预测性之间的相关性依然强劲,AlexNet(57.50%排名前1)或BaseNets的表现远远低于最佳模型。然而,行为得分上表现最好的模型并不是ImageNet上最先进的模型:ResNet-101在行为得分(.389)上排名最高,但是ImageNet排名前1的表现为77.37%。 PNASNet实现了更高的ImageNet性能(82.90%排名前1),但行为得分显着降低(.351)。

  事实上,ImageNet前1名表现与行为评分之间的相关性似乎正在削弱,模型在ImageNet上表现良好,与行为得分几乎没有关联,这表明通过继续努力推动ImageNet,可能无法实现与行为数据更好的一致性。

  通过定期更新大脑数据的大脑评分来评估和跟踪模型基准的对应关系可以让这个系统更加完善。因此,该团队发布了,一个承载神经和行为基准的平台,在这个平台上,可以提交用于视觉处理的ANN,以接收大脑评分及其相对于其他模型的排名,新的实验数据可以自然地纳入其中。

http://aqilabutik.com/rengongshenjingwangluo/404.html
点击次数:??更新时间2019-07-03??【打印此页】??【关闭
  • Copyright © 2002-2017 DEDECMS. 织梦科技 版权所有  
  • 点击这里给我发消息
在线交流 
客服咨询
【我们的专业】
【效果的保证】
【百度百科】
【因为有我】
【所以精彩】