盯着终端里停滞不动的loss曲线，连咖啡杯都失了温度。你反复调整学习率、换优化器，可那个深度学习网络就是纹丝不动——像一堵墙。别急，问题大概率出在信号传递的某个环节。

先别急着调参数，这几个常见坑我替你踩了

　　后台经常收到这种留言：loss从0.69跳到0.68又弹回去，折腾三天没动静。这种状态十有八九是梯度没了。你反向传播回去看看——靠近输入层的参数是不是几乎没更新？如果是，那你遇到了梯度消失。反过来，loss突然爆炸到NaN，那是梯度炸了。解决办法？试试用ReLU换掉sigmoid，或者给每层加上BatchNorm。千万记住一个原则：激活函数别乱用，输出层和隐藏层要分开选。

　　还有一种情况：训练集loss一直降，验证集loss却往上窜。这不是网络的问题，是你让它背死了。早停法和Dropout能治，但更根本的——检查数据是不是有重复样本，或者数据量太小。每次看到有人往小数据集上堆千万级参数的网络，就想叹气。记得，深度学习网络不是越深越好，层数和参数量得跟数据量匹配。

找准病灶：看梯度还是看泛化？

　　区分梯度问题和过拟合其实很简单。在训练的前几个epoch，如果loss压根不下降——你的梯度可能彻底消失了，或者初始值把网络推到了光滑的平顶区。这时候检查一下权重的初始化：用He初始化搭配ReLU，或者Xavier初始化搭配tanh。如果loss从一开始就下降但后来停滞，那多半是学习率太大了——把lr降到原来的十分之一试试，往往立竿见影。

　　如果你发现训练和验证loss之间差距越来越大，那就是过拟合特征。先看数据增强做了没有——随机翻转、裁剪、颜色抖动，这些操作能让深度学习网络学到更鲁棒的模式。再看正则化强度——L2权重衰减从1e-4开始调，结合Dropout比率0.3到0.5。记住，调参要一个一个来，别同时动三个以上变量，否则你根本不知道是哪个起了作用。

　　有人问：为什么我按教程跑了别人代码就能收敛，换到自己的数据就不行？答案很扎心：数据分布不一样。你是不是忽略了数据归一化？把输入缩放到均值为0、方差为1，很多训练问题直接消失。

　　问题解决了就去泡杯茶，别在这耗着。不行就回去读论文，方法都写在原始文献里。