gradCAM
使用grado - cam解释网络预测
语法
描述
scoreMap= gradCAM (净，X，reductionFcn)reductionFcn是一个函数句柄，它将简化层的输出激活减少为标量值。这个标量完成了分类任务的类评分的角色，并将gradc - cam技术推广到非分类任务，如回归。
的gradCAM函数通过将约简层的约简输出相对于特征层中的特征进行微分来计算梯度凸轮映射。gradCAM自动选择减少和特征层使用时，计算地图。要指定这些层，请使用“ReductionLayer”和“FeatureLayer”名称-值参数。
使用此语法计算非分类任务的grado - cam映射。
［也返回用于计算grado - cam映射的特征层和约简层的名称。将此语法与前面语法中的任何输入参数组合一起使用。scoreMap，featureLayer，reductionLayer) = gradCAM (＿＿＿)
例子
探索使用grado - cam的网络分类
使用gradCAM可视化图像的哪些部分对网络的分类决策很重要。
导入经过预先训练的网络SqueezeNet。
网= squeezenet;
导入图像并调整其大小以匹配网络的输入大小。
X = imread (“laika_grass.jpg”）;inputSize = net.Layers (1) .InputSize (1:2);X = imresize (X, inputSize);
显示图像。
imshow (X)
对图像进行分类以获得类标签。
标签=分类(净,X)
标签=分类玩具贵宾犬
使用gradCAM确定图像的哪些部分对分类结果重要。
scoreMap = gradCAM(净,X,标签);
在透明的原始图像上绘制结果，看看图像的哪个区域对分类分数贡献最大。
图imshow (X)在显示亮度图像(scoreMap“AlphaData”, 0.5) colormap飞机
该网络主要集中在狗的背部，以作出分类决定。
图像回归网络的梯度凸轮图计算
使用grado - cam可视化图像的哪些部分对图像回归网络的预测最重要。
加载样本数据，它由手写数字的合成图像组成。第三个输出包含相应的数字旋转角度，以度数表示。
rng默认的[XTrain ~, YTrain] = digitTrain4DArrayData;[XTest ~,欧美]= digitTest4DArrayData;numTrainImages =元素个数(YTrain);idx = randperm (numTrainImages 20);
构建一个可以预测图像旋转的图像回归网络。
层= [．..imageInputLayer ([28 28 1],“名字”，“输入”25) convolution2dLayer(12日,“名字”，“conv”) reluLayer (“名字”，“relu”) fullyConnectedLayer (1,“名字”，“俱乐部”) regressionLayer (“名字”，“输出”));
指定培训选项。
选择= trainingOptions (“个”，．..“InitialLearnRate”, 0.001,．..“详细”假的,．..“阴谋”，“训练进步”）;
培训网络。
网= trainNetwork (XTrain、YTrain层,选择);
在测试图像上评估网络的性能。
testDigit = XTest (:,:,:, idx (4));
使用预测预测旋转角度，并将预测的旋转与真实的旋转进行比较。
testDigit predRotation =预测(净)
predRotation =单-47.5497
trueRotation =欧美(idx (4))
trueRotation = -40
可视化的区域的图像最重要的网络预测使用gradCAM．选择ReLU层作为特征层，全连接层作为还原层。
featureLayer =“relu”；reductionLayer =“俱乐部”；
定义约简函数。约简函数必须将约简层的输出减少到一个标量值。梯度凸轮映射显示图像不同部分对标量的重要性。在这个回归问题中，网络预测图像的旋转角度。因此，全连通层的输出已经是一个标量值，因此约简函数就是恒等函数。
reductionFcn = @ x (x);
计算grado - cam map。
scoreMap = gradCAM(净、testDigit reductionFcn,．..“ReductionLayer”reductionLayer,．..“FeatureLayer”, featureLayer);
在测试图像上显示梯度凸轮地图。
斧子(1)=次要情节(1、2、1);imshow (testDigit)标题("真旋转= "+ trueRotation +'\换行Pred旋转= '+圆(predRotation, 0)) colormap (ax (1),“灰色”) ax(2) = subplot(1,2,2);imshow (testDigit)在显示亮度图像(scoreMap) colormap (ax (2),“喷气机”)标题(“GradCAM”)举行从
gradc - cam地图显示网络聚焦于左下角的区域，如果图像旋转为零，数字的尾部就在这里。该地图表明，为了预测负旋转，网络正在利用空白空间。
输入参数
输出参数
更多关于
提示
的
reductionFcn函数接收来自缩减层的跟踪输出dlarray对象。函数必须将该输出缩减为标量dlarray,这gradCAM然后根据特征层的激活情况进行区分。例如，要计算一个网络的softmax激活的通道208的grado - cam映射，则还原函数为@ (x) (x (208))．该函数接收激活并提取第208通道。的
gradCAM功能自动选择减少和特征层使用时，计算grado - cam地图。对于某些网络，所选择的层可能不合适。例如，如果您的网络有多个可以用作特征层的层，那么函数将选择其中的一个层，但它的选择可能不是最合适的。对于这样的网络，使用“FeatureLayer”名称-值参数。
参考文献
[1] Selvaraju, Ramprasaath R.， Michael Cogswell, Abhishek Das, Ramakrishna Vedantam, Devi Parikh，和Dhruv Batra。“grado - cam:通过基于梯度的本地化从深度网络的视觉解释。2017(2017年10月):618-626,https://doi.org/10.1109/ICCV.2017.74。
Vinogradova, Kira, Alexandr Dibrov和Gene Myers。“基于梯度加权类激活映射的可解释语义分割”。AAAI人工智能会议论文集34岁的没有。10(2020年4月):13943-13944,https://doi.org/10.1609/aaai.v34i10.7244。
另请参阅
你也可以从以下列表中选择一个网站:
