记录模型训练时loss值的变化情况

记录训练过程中的每一步的loss变化

 if verbose and step % verbose == 0:
 sys.stdout.write('\r{} / {} : loss = {}'.format(
  step, total_steps, np.mean(total_loss)))
 sys.stdout.flush()
 if verbose:
 sys.stdout.write('\r') 
 sys.stdout.flush() 

一般我们在训练神经网络模型的时候，都是每隔多少步，输出打印一下loss或者每一步打印一下loss，今天发现了另一种记录loss变化的方法，就是用

sys.stdout.write('\r{} / {} : loss = {}')

如图上的代码，可以记录每一个在每个epoch中记录用一行输出就可以记录每个step的loss值变化，

\r就是输出不会换行，因此如果你想同一样输出多次，在需要输出的字符串对象里面加上"\r",就可以回到行首了。

sys.stdout.flush() #一秒输出了一个数字

具体的实现就是下面的图：

这样在每个epoch中也可以观察loss变化，但是只需要打印一行，而不是每一行都输出。

补充知识：训练模型中损失（loss）异常分析

前言

训练模型过程中随时都要注意目标函数值(loss)的大小变化。一个正常的模型loss应该随训练轮数（epoch）的增加而缓慢下降，然后趋于稳定。虽然在模型训练的初始阶段，loss有可能会出现大幅度震荡变化，但是只要数据量充分，模型正确，训练的轮数足够长，模型最终会达到收敛状态，接近最优值或者找到了某个局部最优值。在模型实际训练过程中，可能会得到一些异常loss值，如loss等于nan；loss值忽大忽小，不收敛等。

下面根据自己使用Pythorh训练模型的经验，分析出一些具体原因和给出对应的解决办法。

一、输入数据

1. 数据的预处理

输入到模型的数据一般都是经过了预处理的，如用pandas先进行数据处理，尤其要注意空值，缺失值，异常值。

缺失值：数值类型（NaN），对象类型（None, NaN），时间类型（NaT）

空值：""

异常值：不再正常区间范围的值

例如对缺失值可以进行判断df.isnull()或者df.isna()；丢弃df.dropna()；填充df.fillna()等操作。

输入到模型中的数据一般而言都是数值类型的值，一定要保证不能出现NaN, numpy中的nan是一种特殊的float,该值数值运算的结果是不正常的，所以可能会导致loss值等于nan。可以用numpy.any(numpy.isnan(x))检查一下input和target。

2. 数据的读写

例如使用Pandas读取.csv类型的数据得到的DataFrame会添加默认的index,再写回到磁盘会多一列。如果用其他读取方式再读入，可能会导致数据有问题，读取到NaN。

import pandas as pd
 
Output = pd.read_csv('./data/diabetes/Output.csv')
trainOutput, testOutput = Output[:6000], Output[6000:]
trainOutput.to_csv('./data/diabetes/trainOutput.csv')
testOutput.to_csv('./data/diabetes/testOutput.csv')

3. 数据的格式

Pythorch中的 torch.utils.data.Dataset 类是一个表示数据集的抽象类。自己数据集的类应该继承自 Dataset 并且重写__len__方法和__getitem__方法:

__len__ ： len(dataset) 返回数据集的大小

__getitem__ ：用以支持索引操作， dataset[idx]能够返回第idx个样本数据

然后使用torch.utils.data.DataLoader 这个迭代器(iterator)来遍历所有的特征。具体可以参见这里

在构造自己Dataset类时，需要注意返回的数据格式和类型，一般不会出现NaN的情况但是可能会导致数据float, int, long这几种类型的不兼容，注意转换。

二、学习率

基于梯度下降的优化方法，当学习率太高时会导致loss值不收敛，太低则下降缓慢。需要对学习率等超参数进行调参如使用网格搜索，随机搜索等。

三、除零错

对于回归问题，可能出现了除0 的计算，加一个很小的余项可能可以解决。类似于计算概率时进行的平滑修正，下面的代码片段中loss使用交叉混合熵（CossEntropy），计算3分类问题的AUC值，为了避免概率计算出现ＮaN而采取了相应的平滑处理。

from sklearn.metrics import roc_auc_score
 
model_ft, y_true, losslists = test_model(model_ft, criterion, optimizer)
n_class = 3
y_one_hot = np.eye(n_class)[y_true.reshape(-1)]
# solve divide zero errot
eps = 0.0000001
y_scores = losslists / (losslists.sum(axis=1, keepdims=True)+eps)
#print(y_scores)
#print(np.isnan(y_scores))
"""
metrics.roc_auc_score(y_one_hot, y_pred)
"""
print("auc: ")
roc_auc_score(y_one_hot, y_scores)

四、loss函数

loss函数代码编写不正确或者已经编写好的loss函数API使用不清楚

五、某些易错代码

Pytorch在进行自动微分的时候，默认梯度是会累加的，所以需要在每个epoch的每个batch中对梯度清零，否则可能会导致loss值不收敛。不要忘记添加如下代码

optimizer.zero_grad()