1. Proble Definition
2. Data Collection
3. Split Up Data
training data的作用是计算梯度更新权重,testing data则给出一个测试精度用来判断网络的好坏。validation data就是用来避免过拟合的,训练过程中,通常用它来确定一些超参数(比如根据validation data上的accuracy来确定early stopping的epoch大小、根据validation data确定learning rate等)。