耽学

  • 解读新AI时代的开山之作:AlexNet及其PyTorch实现

    完整代码,训练日志和模型文件请参考我的Github: https://github.com/ethanyanjiali/deep-vision/tree/master/AlexNet/pytorch 前言 时至今日,深度学习在计算机视觉任务上已经成为事实上的默认手段。无论是图片分类,目标检测甚至是视觉问答,特征提取早已清一色的从诸如SIFT和ORB改换成了卷积神经网络,而类别或者回归的输出也再也不见SVM等传统机器学习的身影,而完全被多层全连接层替代。而要说到这波AI浪潮的起始,我们不得不提到这么一个网络:AlexNet。AlexNet是由Alex Krizhevsky等人于2012年提出的一个开创性的卷积神经网络。虽然在其之前神经网络已经发展了很久,但作者两个非常简单却又实用的想法一下子就引爆了学术界。一个是更大:即尽量多的使用卷积层和全连接层,直到无法负担的起。另一个则是更快:使用显卡来加速矩阵的并行计算。而这就像一个门槛一样,一旦越过了某个量级的计算,突然人们就发现原来完全行不通的方案现在突然前途一片光明。 本文参考Alex的两篇论文ImageNet Classification with Deep Convolutional以及One weird trick for...