在深度学习的发展过程中，许多无意中的创新点与改善模型计算的复杂性密切相关。
因此，本文对CNN的时间和空间复杂性进行分析。
首先，明确下FLOPS和FLOPs的区别：
FLOPS :请注意所有大写字母。 是floatingpointoperationspersecond的缩写，表示每秒的浮点运算次数，被理解为计算速度。 是衡量硬件性能的指标。 FLOPs :注意s小写是floating point operations的缩写(s表复数)，意思是浮点运算数，理解为计算量。 可以测量算法/模型的复杂性。
卷积层：
Ci=input channel，k=kernel size，HW=output feature map size，Co=output channel。
2是因为一个MAC是两个操作。
在不考虑bias的情况下有-1，在有bias的情况下没有-1。
上面对于一个输入功能图，没有考虑batch size。
理解以上公式分为两个阶段。 括号中是第一步，计算输出效果图的单个像素，然后乘以HWCo将其扩展到整个输出效果图。 括号内的部分还可以分为两个阶段。 第一项是乘法，第二项是加法。 如果加上n的个数，就会加上n-1次，所以不考虑bias而有-1。 考虑到bias，正好被中和，括号内是
全联接层：
I=input neuron numbers，O=output neuron numbers。
2是因为一个MAC是两个操作。
在不考虑bias的情况下有-1，在有bias的情况下没有-1。
同样，括号内为1个输出神经元的计算量，扩展为o。
3359 Zhan.zhi Hu.com/p/31575074