CV(Computer Vision);计算机视觉,它的目的是来理解图像中所要表达的意思。可以对图像进行一些操作,例如分割、分类等。
多尺度:即对于图像不同大小的采集,在多尺度下可以观察到不同的特征,比如更密集的采样有利于看到更多的细节,更稀疏的采样可以看到整体的联系。使用多尺度,既可以看到全局的信息,也知道局部的信息。
梯度爆炸/梯度消失:由于网络层次过深,在反向传播中,会出现偏导累乘而趋于无穷大或者为0的情况。梯度爆炸会使得靠近输入层的参数权值更新变化大,在极端情况下,参数的值变得非常大,以至于溢出,导致 NaN 值。梯度消失会使靠近输入层的参数权值更新缓慢,会相当于只有后面几层网络在起作用。