当前位置:主页 > 软件编程 > Python代码 >

人工智能学习Pytorch数据集分割及动量示例详解

时间:2022-11-24 09:11:48 | 栏目:Python代码 | 点击:

1.数据集分割

通过datasets可以直接分别获取训练集和测试集。

通常我们会将训练集进行分割,通过torch.utils.data.random_split方法。

所有的数据都需要通过torch.util.data.DataLoader进行加载,才可以得到可以使用的数据集。

具体代码如下:

2.

2.正则化

PyTorch中的正则化和机器学习中的一样,不过设置方式不一样。

直接在优化器中,设置weight_decay即可。优化器中,默认的是L2范式,因此填入的参数就是lambda。想要使用L1范式的话,需要手动写出代码。

3.动量和学习率衰减

动量的设置可以直接在优化器中完成。通过momentum参数设置。

学习率的调整通过torch.optim.lr_scheduler中的ReduceLROnPlateau,StepLR实现。

ReduceLROnPlateau是自动检测损失值,并衰减学习率。

StepLR需要手动设置衰减的参数。

您可能感兴趣的文章:

相关文章