Dropout1.dropout的过程: - 首先随机(临时)删掉网络中一半的隐藏神经元,输...
平均池化和最大池化的区别和使用场景
1.平均池化:AdaptiveAvgPool2d,主要用于:当map中的信息都应该有所贡献的时候,例如图像分...
Group Convolution组卷积的解析
1.知乎上的回答:group 是相对于上一层的 channel 来说的。假如 group_size = N,...
L1正则化和L2正则化的解读
1.Regularization(正则化) 不是 normalization(规范化),正则化解决的问题是防...
梯度爆炸的解决方案_clip_gradients
梯度爆炸的解决方案_clip_gradients 1.通常会使用一种叫”clip gradients “的方...
HRNetV1和HRNetV2的区别
1.HRNetV1和HRNetV2其实不是版本迭代的过程,只是同一个网络用在不同任务上: ...
为什么要做batch normalization
1.机器学习领域有个很重要的假设:独立同分布假设;在数据预处理阶段我们一般会做“白化”操作,一个是去除特征之...
PSPnet理解以及与deeplabV3的区别和联系
1.pspnet : Pyramid Scene Parsing Network(金字塔场景解析网络)...
Resnet网络好在哪里
1.网络的深度为什么重要?:CNN能够提取low/mid/high-level的特征,网络的层数越多,意味着...
ResNetV1和ResNetV2的区别
本文简要的说明一下ResNetV1和ResNetV2的区别1.resnetv1:. 2.Resne...
CNN网络的Params和FLOPs的计算
1.实时语义分割中的评价指标通常有:mIoU,FPS,Params,FLOPS,Memory等. 2...
Inception系列和Inception-Resnet系列网络
1.现在已经发展到了Inception v4/Inception Resnet v2版本了. 2.常...
HRNet-高分辨率表征网络
1.首先介绍分类网络类别: - 图像级分类 - 区域级分类(目标检测) ...
轻量化网络解析3_ResNext_Resnet的下一代网络
1.以下为构成ResNeXt网络的基本block单元:它与Inception Resnet中所有的基本单元极...
轻量化网络解析1_mobilenet系列,Xception和SqueezeNet
mobilenetV1 1.2016年6月(2017年4月发布),首先提出mobilenetV1,最大亮点是...
SPP_layer和ROI_pooling_layer和ROIAlign的学习
SPP_layer 1.SPP_layer(spatial pyramid pooling)首次出现于spp...
RPN和RPN网络的缺点
RPN1.RPN:region proposal network,和SSD:Single-Shot det...
R_CNN到SPP_Net到fast_rcnn到faster-RCNN的学习
RCNN1.首先RCNN时基于region的CNN,是RBG大神最先提出用于目标检测的算法。 2.RC...
sigmoid和softmax的理解和推导
sigmoid1.sigmoid的代码实现: import numpy as np d...
常用优化算法的理解与总结以及pytorch中优化算法
1.深度学习优化算法经历了 SGD -> SGDM -> NAG ->AdaGrad -...
常用损失函数的理解与总结以及pytorch中的损失函数
1.损失函数、代价函数与目标函数的定义: - 损失函数(Loss Function):是定义在...
激活函数及常用激活函数理解与总结
1.为什么要使用激活函数:如果不用激活函数(其实相当于激活函数是f(x) = x),在这种情况下每一层节点...