本文为365天深度学习训练营 中的学习记录博客 原作者K同学啊我的环境语言环境Python3.12编译器Jupyter Notebook深度学习环境Pytorch一、 前期准备1. 设置GPU如果设备上支持GPU就使用GPU,否则使用CPUimporttorchimporttorch.nnasnnimporttorchvision.transformsastransformsimporttorchvisionfromtorchvisionimporttransforms,datasetsimportos,PIL,pathlib devicetorch.device(cudaiftorch.cuda.is_available()elsecpu)device输出2. 导入数据importos,PIL,random,pathlib data_dir./data/5-data/data_dirpathlib.Path(data_dir)data_pathslist(data_dir.glob(*))classeNames[str(path).split(\\)[1]forpathindata_paths]classeNames第一步使用pathlib.Path()函数将字符串类型的文件夹路径转换为pathlib.Path对象。第二步使用glob()方法获取data_dir路径下的所有文件路径并以列表形式存储在data_paths中。第三步通过split()函数对data_paths中的每个文件路径执行分割操作获得各个文件所属的类别名称并存储在classeNames中第四步打印classeNames列表显示每个文件所属的类别名称。# 关于transforms.Compose的更多介绍可以参考https://blog.csdn.net/qq_38251616/article/details/124878863train_transformstransforms.Compose([transforms.Resize([224,224]),# 将输入图片resize成统一尺寸# transforms.RandomHorizontalFlip(), # 随机水平翻转transforms.ToTensor(),# 将PIL Image或numpy.ndarray转换为tensor并归一化到[0,1]之间transforms.Normalize(# 标准化处理--转换为标准正太分布高斯分布使模型更容易收敛mean[0.485,0.456,0.406],std[0.229,0.224,0.225])# 其中 mean[0.485,0.456,0.406]与std[0.229,0.224,0.225] 从数据集中随机抽样计算得到的。])test_transformtransforms.Compose([transforms.Resize([224,224]),# 将输入图片resize成统一尺寸transforms.ToTensor(),# 将PIL Image或numpy.ndarray转换为tensor并归一化到[0,1]之间transforms.Normalize(# 标准化处理--转换为标准正太分布高斯分布使模型更容易收敛mean[0.485,0.456,0.406],std[0.229,0.224,0.225])# 其中 mean[0.485,0.456,0.406]与std[0.229,0.224,0.225] 从数据集中随机抽样计算得到的。])train_datasetdatasets.ImageFolder(./data/5-data/train/,transformtrain_transforms)test_datasetdatasets.ImageFolder(./data/5-data/test/,transformtest_transform)mean与std数值是怎么来的这些均值和标准差是通过计算ImageNet数据集中所有训练图像的RGB通道均值和标准差得出的。具体计算过程如下获取ImageNet数据集ImageNet包含120万张训练图像每张图像通常具有RGB三个通道。计算均值Mean遍历所有图像分别计算每个通道R、G、B的像素值平均值得到Red 通道均值 ≈ 0.485Green 通道均值 ≈ 0.456Blue 通道均值 ≈ 0.406计算标准差Standard Deviation遍历所有图像计算每个通道的像素值标准差得到Red 通道标准差 ≈ 0.229Green 通道标准差 ≈ 0.224Blue 通道标准差 ≈ 0.225train_dataset.class_to_idx输出batch_size32train_dltorch.utils.data.DataLoader(train_dataset,batch_sizebatch_size,shuffleTrue,num_workers1)test_dltorch.utils.data.DataLoader(test_dataset,batch_sizebatch_size,shuffleTrue,num_workers1)forX,yintest_dl:print(Shape of X [N, C, H, W]: ,X.shape)print(Shape of y: ,y.shape,y.dtype)break输出二、构建简单的CNN网络网络结构图importtorch.nn.functionalasFclassModel(nn.Module):def__init__(self):super(Model,self).__init__()self.conv1nn.Sequential(nn.Conv2d(3,12,kernel_size5,padding0),# 12*220*220nn.BatchNorm2d(12),nn.ReLU())self.conv2nn.Sequential(nn.Conv2d(12,12,kernel_size5,padding0),# 12*216*216nn.BatchNorm2d(12),nn.ReLU())self.pool3nn.Sequential(nn.MaxPool2d(2))# 12*108*108self.conv4nn.Sequential(nn.Conv2d(12,24,kernel_size5,padding0),# 24*104*104nn.BatchNorm2d(24),nn.ReLU())self.conv5nn.Sequential(nn.Conv2d(24,24,kernel_size5,padding0),# 24*100*100nn.BatchNorm2d(24),nn.ReLU())self.pool6nn.Sequential(nn.MaxPool2d(2))# 24*50*50self.dropoutnn.Sequential(nn.Dropout(0.2))self.fcnn.Sequential(nn.Linear(24*50*50,len(classeNames)))defforward(self,x):batch_sizex.size(0)xself.conv1(x)# 卷积-BN-激活xself.conv2(x)# 卷积-BN-激活xself.pool3(x)# 池化xself.conv4(x)# 卷积-BN-激活xself.conv5(x)# 卷积-BN-激活xself.pool6(x)# 池化xself.dropout(x)xx.view(batch_size,-1)# flatten 变成全连接网络需要的输入 (batch, 24*50*50) (batch, -1), -1 此处自动算出的是24*50*50xself.fc(x)returnx devicecudaiftorch.cuda.is_available()elsecpuprint(Using {} device.format(device))modelModel().to(device)model输出三、 训练模型1. 编写训练函数# 训练循环deftrain(dataloader,model,loss_fn,optimizer):sizelen(dataloader.dataset)# 训练集的大小num_batcheslen(dataloader)# 批次数目, (size/batch_size向上取整)train_loss,train_acc0,0# 初始化训练损失和正确率forX,yindataloader:# 获取图片及其标签X,yX.to(device),y.to(device)# 计算预测误差predmodel(X)# 网络输出lossloss_fn(pred,y)# 计算网络输出和真实值之间的差距targets为真实值计算二者差值即为损失# 反向传播optimizer.zero_grad()# grad属性归零loss.backward()# 反向传播optimizer.step()# 每一步自动更新# 记录acc与losstrain_acc(pred.argmax(1)y).type(torch.float).sum().item()train_lossloss.item()train_acc/size train_loss/num_batchesreturntrain_acc,train_loss3. 编写测试函数测试函数和训练函数大致相同但是由于不进行梯度下降对网络权重进行更新所以不需要传入优化器deftest(dataloader,model,loss_fn):sizelen(dataloader.dataset)# 测试集的大小num_batcheslen(dataloader)# 批次数目, (size/batch_size向上取整)test_loss,test_acc0,0# 当不进行训练时停止梯度更新节省计算内存消耗withtorch.no_grad():forimgs,targetindataloader:imgs,targetimgs.to(device),target.to(device)# 计算losstarget_predmodel(imgs)lossloss_fn(target_pred,target)test_lossloss.item()test_acc(target_pred.argmax(1)target).type(torch.float).sum().item()test_acc/size test_loss/num_batchesreturntest_acc,test_loss3. 设置动态学习率defadjust_learning_rate(optimizer,epoch,start_lr):# 每 2 个epoch衰减到原来的 0.92lrstart_lr*(0.92**(epoch//2))forparam_groupinoptimizer.param_groups:param_group[lr]lr learn_rate1e-4# 初始学习率optimizertorch.optim.SGD(model.parameters(),lrlearn_rate)✨调用官方动态学习率接口与上面方法是等价的# # 调用官方动态学习率接口时使用# lambda1 lambda epoch: (0.92 ** (epoch // 2))# optimizer torch.optim.SGD(model.parameters(), lrlearn_rate)# scheduler torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambdalambda1) #选定调整方法4. 正式训练loss_fnnn.CrossEntropyLoss()# 创建损失函数epochs40train_loss[]train_acc[]test_loss[]test_acc[]forepochinrange(epochs):# 更新学习率使用自定义学习率时使用adjust_learning_rate(optimizer,epoch,learn_rate)model.train()epoch_train_acc,epoch_train_losstrain(train_dl,model,loss_fn,optimizer)# scheduler.step() # 更新学习率调用官方动态学习率接口时使用model.eval()epoch_test_acc,epoch_test_losstest(test_dl,model,loss_fn)train_acc.append(epoch_train_acc)train_loss.append(epoch_train_loss)test_acc.append(epoch_test_acc)test_loss.append(epoch_test_loss)# 获取当前的学习率lroptimizer.state_dict()[param_groups][0][lr]template(Epoch:{:2d}, Train_acc:{:.1f}%, Train_loss:{:.3f}, Test_acc:{:.1f}%, Test_loss:{:.3f}, Lr:{:.2E})print(template.format(epoch1,epoch_train_acc*100,epoch_train_loss,epoch_test_acc*100,epoch_test_loss,lr))print(Done)输出四、 结果可视化1. Loss与Accuracy图importmatplotlib.pyplotasplt#隐藏警告importwarnings warnings.filterwarnings(ignore)#忽略警告信息plt.rcParams[font.sans-serif][SimHei]# 用来正常显示中文标签plt.rcParams[axes.unicode_minus]False# 用来正常显示负号plt.rcParams[figure.dpi]100#分辨率fromdatetimeimportdatetime current_timedatetime.now()# 获取当前时间epochs_rangerange(epochs)plt.figure(figsize(12,3))plt.subplot(1,2,1)plt.plot(epochs_range,train_acc,labelTraining Accuracy)plt.plot(epochs_range,test_acc,labelTest Accuracy)plt.legend(loclower right)plt.title(Training and Validation Accuracy)plt.xlabel(current_time)# 打卡请带上时间戳否则代码截图无效plt.subplot(1,2,2)plt.plot(epochs_range,train_loss,labelTraining Loss)plt.plot(epochs_range,test_loss,labelTest Loss)plt.legend(locupper right)plt.title(Training and Validation Loss)plt.show()输出2. 指定图片进行预测⭐torch.squeeze()详解对数据的维度进行压缩去掉维数为1的的维度函数原型torch.squeeze(input, dimNone, *, outNone)关键参数说明input (Tensor)输入Tensordim (int, optional)如果给定输入将只在这个维度上被压缩实战案例xtorch.zeros(2,1,2,1,2)x.size()torch.Size([2,1,2,1,2])ytorch.squeeze(x)y.size()torch.Size([2,2,2])ytorch.squeeze(x,0)y.size()torch.Size([2,1,2,1,2])ytorch.squeeze(x,1)y.size()torch.Size([2,2,1,2])⭐torch.unsqueeze()对数据维度进行扩充。给指定位置加上维数为一的维度函数原型torch.unsqueeze(input, dim)关键参数说明input (Tensor)输入Tensordim (int)插入单例维度的索引实战案例xtorch.tensor([1,2,3,4])torch.unsqueeze(x,0)tensor([[1,2,3,4]])torch.unsqueeze(x,1)tensor([[1],[2],[3],[4]])fromPILimportImage classeslist(train_dataset.class_to_idx)defpredict_one_image(image_path,model,transform,classes):test_imgImage.open(image_path).convert(RGB)# plt.imshow(test_img) # 展示预测的图片test_imgtransform(test_img)imgtest_img.to(device).unsqueeze(0)model.eval()outputmodel(img)_,predtorch.max(output,1)pred_classclasses[pred]print(f预测结果是{pred_class})# 预测训练集中的某张照片predict_one_image(image_path./5-data/test/adidas/1.jpg,modelmodel,transformtrain_transforms,classesclasses)输出五、保存并加载模型# 模型保存PATH./model.pth# 保存的参数文件名torch.save(model.state_dict(),PATH)# 将参数加载到model当中model.load_state_dict(torch.load(PATH,map_locationdevice))输出六、动态学习率1. torch.optim.lr_scheduler.StepLR等间隔动态调整方法每经过step_size个epoch做一次学习率decay以gamma值为缩小倍数。函数原型torch.optim.lr_scheduler.StepLR(optimizer, step_size, gamma0.1, last_epoch-1)关键参数详解optimizer(Optimizer)是之前定义好的需要优化的优化器的实例名step_size(int)是学习率衰减的周期每经过每个epoch做一次学习率decaygamma(float)学习率衰减的乘法因子。Default0.1用法示例optimizertorch.optim.SGD(net.parameters(),lr0.001)schedulertorch.optim.lr_scheduler.StepLR(optimizer,step_size5,gamma0.1)2. lr_scheduler.LambdaLR根据自己定义的函数更新学习率。函数原型torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambda, last_epoch-1, verboseFalse)关键参数详解optimizer(Optimizer)是之前定义好的需要优化的优化器的实例名lr_lambda(function)更新学习率的函数用法示例lambda1lambdaepoch:(0.92**(epoch//2)# 第二组参数的调整方法optimizertorch.optim.SGD(model.parameters(),lrlearn_rate)schedulertorch.optim.lr_scheduler.LambdaLR(optimizer,lr_lambdalambda1)#选定调整方法3. lr_scheduler.MultiStepLR在特定的 epoch 中调整学习率函数原型torch.optim.lr_scheduler.MultiStepLR(optimizer, milestones, gamma0.1, last_epoch-1, verboseFalse)关键参数详解optimizer(Optimizer)是之前定义好的需要优化的优化器的实例名milestones(list)是一个关于epoch数值的list表示在达到哪个epoch范围内开始变化必须是升序排列gamma(float)学习率衰减的乘法因子。Default0.1用法示例optimizertorch.optim.SGD(net.parameters(),lr0.001)schedulertorch.optim.lr_scheduler.MultiStepLR(optimizer,milestones[2,6,15],#调整学习率的epoch数gamma0.1)更多的官方动态学习率设置方式可参考https://pytorch.org/docs/stable/optim.html调用官方接口示例model[Parameter(torch.randn(2,2,requires_gradTrue))]optimizerSGD(model,0.1)schedulerExponentialLR(optimizer,gamma0.9)forepochinrange(20):forinput,targetindataset:optimizer.zero_grad()outputmodel(input)lossloss_fn(output,target)loss.backward()optimizer.step()scheduler.step()七、总结在前几周的基础上增加了动态学习率。因为神经网络训练时不同阶段对学习率的需求其实不一样。情况1学习率太大前期收敛快loss下降很猛但后期会在最优点附近“来回横跳”loss震荡准确率上不去情况2学习率太小后期很稳。但前期学得特别慢训练半天不动容易卡住。此外动态学习率可以避免模型前期卡死在差解里帮助跳出局部最优。