本文主要包含以下内容:
推导神经网络的误差反向传播过程 使用numpy编写简单的神经网络,并使用iris数据集和california_housing数据集分别进行分类和回归任务,最终将训练过程可视化。
1. BP算法的推导过程
1.1 导入 前向传播和反向传播的总体过程。
神经网络的直接输出记为
Z
[
l
]
Z^{[l]}
Z[l],表示激活前的输出,激活后的输出记为
A
......