一、为什么要用 Excel 学 MLP很多人入门神经网络时直接上手 PyTorch、TensorFlow却把反向传播当成黑盒。用 Excel 手算一次 MLP你可以看清每一层数值变化直观理解链式法则如何作用于权重与偏置彻底消除对梯度下降的神秘感不用写代码也能吃透神经网络底层逻辑二、网络结构我们搭建一个 3 层 MLP输入层1 个神经元固定输入 5隐藏层6 个神经元激活函数 Leaky ReLU输出层1 个神经元激活函数 Leaky ReLU损失函数均方误差 MSE训练目标让输出逼近 208学习率0.01来自 Excel 表格三、前向传播Forward Pass3.1 隐藏层加权和公式M_i 输入 × W_i Bias_i初始权重与偏置神经元W输入→隐藏Bias110102201031010420105101062010输入 5计算结果[M [60, 110, 160,110, 60, 110]3.2 隐藏层激活Leaky ReLU公式O_i M_iif M_i 00.05 × M_iotherwise所有 M_i 0因此O [60, 110, 160, 110, 60, 110]3.3 输出层加权和输出层权重 (W’)神经元W’隐藏→输出110220310410530620输出层偏置 20加权和加权和 Σ(O_i × W’_i) Bias_out 60×10 110×20 160×10 110×10 60×30 110×20 20 95203.4 输出层激活Leaky ReLU 正值区直接输出输出 9520 Leaky ReLU 正值区3.5 误差计算误差平方 (9520 − 208)² 86,713,344误差极大必须通过反向传播更新参数。四、反向传播Backward Pass4.1 输出层梯度公式dLoss/dOutput 2 × (Output − Target) × (Output 0 ? 1 : 0.05) 2 × 9312 × 1 18,6244.2 更新输出层偏置梯度 18,624学习率 0.01调整幅度 18,624 × 0.01 186.24新偏置 20 − 186.24 −166.244.3 更新输出层权重 (W’)梯度 O_i × dLoss/dOutput新权重 旧权重 − 学习率 × 梯度示例神经元 1梯度 60 × 18,624 1,117,440新权重 10 − 0.01 × 1,117,440 10 − 11,174.4 −11,164.44.4 反向传播到隐藏层隐藏层输出梯度对输出 O_idLoss/dO_i dLoss/dOutput × W’_i经过 Leaky ReLU 导数dLoss/dM_i dLoss/dO_i × (M_i 0 ? 1 : 0.05)最终得到隐藏层权重、偏置的梯度完成一次完整迭代。五、一次迭代后的变化参数更新方向原因输出层偏置大幅下降输出远大于目标输出层权重 (W’)大幅下降需要降低输出隐藏层输出被反向拉低间接压低最终输出多次迭代后输出会从 9520 逐步下降逼近 208。六、Excel 实现要点可直接复用功能Excel 公式隐藏层加权和$A$4*H4C4Leaky ReLUIF(M40,M4,0.05*M4)输出层加权和SUMPRODUCT(R4:R9,N4:N9)R11误差平方(X4-Y4)^2输出层梯度2*(X4-Y4)*IF(X40,1,0.05)权重更新旧权重 - 学习率*梯度建议存放位置学习率B1固定输入A4目标值Y4七、基于 Excel 表格的完整计算结果结合提供的 MLP算法.xls完整计算结果如下输入BiasW加权和输出值W’输出加权和最终输出目标值误差平方导数510106060109520952020886713344186241020110110201010160160101020110110101010606030102011011020八、结论神经网络的核心不是框架、不是 GPU而是链式法则 梯度下降
