這期內(nèi)容當(dāng)中小編將會(huì)給大家?guī)碛嘘P(guān)如何在PyTorch和TensorFlow中訓(xùn)練圖像分類模型，文章內(nèi)容豐富且以專業(yè)的角度為大家分析和敘述，閱讀完這篇文章希望大家可以有所收獲。
創(chuàng)新互聯(lián)公司是一家專業(yè)提供青龍企業(yè)網(wǎng)站建設(shè),專注與網(wǎng)站設(shè)計(jì)、成都網(wǎng)站建設(shè)、H5技術(shù)、小程序制作等業(yè)務(wù)。10年已為青龍眾多企業(yè)、政府機(jī)構(gòu)等服務(wù)。創(chuàng)新互聯(lián)專業(yè)網(wǎng)絡(luò)公司優(yōu)惠進(jìn)行中。
作者|PULKIT SHARMA 編譯|Flin 來源|analyticsvidhya
圖像分類是計(jì)算機(jī)視覺的最重要應(yīng)用之一。它的應(yīng)用范圍包括從自動(dòng)駕駛汽車中的物體分類到醫(yī)療行業(yè)中的血細(xì)胞識(shí)別，從制造業(yè)中的缺陷物品識(shí)別到建立可以對(duì)戴口罩與否的人進(jìn)行分類的系統(tǒng)。在所有這些行業(yè)中，圖像分類都以一種或另一種方式使用。他們是如何做到的呢？他們使用哪個(gè)框架？
我們將了解如何在PyTorch和TensorFlow中建立基本的圖像分類模型。我們將從PyTorch和TensorFlow的簡要概述開始。然后，我們將使用MNIST手寫數(shù)字分類數(shù)據(jù)集，并在PyTorch和TensorFlow中使用CNN（卷積神經(jīng)網(wǎng)絡(luò)）建立圖像分類模型。
PyTorch概述
TensorFlow概述
了解問題陳述：MNIST
在PyTorch中實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)（CNN）
在TensorFlow中實(shí)施卷積神經(jīng)網(wǎng)絡(luò)（CNN）
PyTorch在深度學(xué)習(xí)社區(qū)中越來越受歡迎，并且被深度學(xué)習(xí)從業(yè)者廣泛使用，PyTorch是一個(gè)提供Tensor計(jì)算的Python軟件包。此外，tensors是多維數(shù)組，就像NumPy的ndarrays也可以在GPU上運(yùn)行一樣。
PyTorch的一個(gè)獨(dú)特功能是它使用動(dòng)態(tài)計(jì)算圖。PyTorch的Autograd軟件包從張量生成計(jì)算圖并自動(dòng)計(jì)算梯度。而不是具有特定功能的預(yù)定義圖形。
PyTorch為我們提供了一個(gè)框架，可以隨時(shí)隨地構(gòu)建計(jì)算圖，甚至在運(yùn)行時(shí)進(jìn)行更改。特別是，對(duì)于我們不知道創(chuàng)建神經(jīng)網(wǎng)絡(luò)需要多少內(nèi)存的情況，這很有用。
你可以使用PyTorch應(yīng)對(duì)各種深度學(xué)習(xí)挑戰(zhàn)。以下是一些挑戰(zhàn)：
圖像（檢測，分類等）
文字（分類，生成等）
強(qiáng)化學(xué)習(xí)
TensorFlow由Google Brain團(tuán)隊(duì)的研究人員和工程師開發(fā)。它與深度學(xué)習(xí)領(lǐng)域最常用的軟件庫相距甚遠(yuǎn)（盡管其他軟件庫正在迅速追趕）。
TensorFlow如此受歡迎的最大原因之一是它支持多種語言來創(chuàng)建深度學(xué)習(xí)模型，例如Python，C ++和R。它提供了詳細(xì)的文檔和指南的指導(dǎo)。
TensorFlow包含許多組件。以下是兩個(gè)杰出的代表：
TensorBoard：使用數(shù)據(jù)流圖幫助有效地可視化數(shù)據(jù)
TensorFlow：對(duì)于快速部署新算法/實(shí)驗(yàn)非常有用
TensorFlow當(dāng)前正在運(yùn)行2.0版本，該版本于2019年9月正式發(fā)布。我們還將在2.0版本中實(shí)現(xiàn)CNN。
如果你想了解有關(guān)此新版本的TensorFlow的更多信息，請查看TensorFlow 2.0深度學(xué)習(xí)教程
https://www.analyticsvidhya.com/blog/2020/03/tensorflow-2-tutorial-deep-learning
我希望你現(xiàn)在對(duì)PyTorch和TensorFlow都有基本的了解。現(xiàn)在，讓我們嘗試使用這兩個(gè)框架構(gòu)建深度學(xué)習(xí)模型并了解其內(nèi)部工作。在此之前，讓我們首先了解我們將在本文中解決的問題陳述。
在開始之前，讓我們了解數(shù)據(jù)集。在本文中，我們將解決流行的MNIST問題。這是一個(gè)數(shù)字識(shí)別任務(wù)，其中我們必須將手寫數(shù)字的圖像分類為0到9這10個(gè)類別之一。
在MNIST數(shù)據(jù)集中，我們具有從各種掃描的文檔中獲取的數(shù)字圖像，尺寸經(jīng)過標(biāo)準(zhǔn)化并居中。隨后，每個(gè)圖像都是28 x 28像素的正方形（總計(jì)784像素）。數(shù)據(jù)集的標(biāo)準(zhǔn)拆分用于評(píng)估和比較模型，其中60,000張圖像用于訓(xùn)練模型，而單獨(dú)的10,000張圖像集用于測試模型。
現(xiàn)在，我們也了解了數(shù)據(jù)集。因此，讓我們在PyTorch和TensorFlow中使用CNN構(gòu)建圖像分類模型。我們將從PyTorch中的實(shí)現(xiàn)開始。我們將在google colab中實(shí)現(xiàn)這些模型，該模型提供免費(fèi)的GPU以運(yùn)行這些深度學(xué)習(xí)模型。
我希望你熟悉卷積神經(jīng)網(wǎng)絡(luò)（CNN），如果沒有，請隨時(shí)參考以下文章：
從頭開始學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)的綜合教程:https://www.analyticsvidhya.com/blog/2018/12/guide-convolutional-neural-network-cnn
讓我們首先導(dǎo)入所有庫：
# importing the libraries import numpy as np import torch import torchvision import matplotlib.pyplot as plt from time import time from torchvision import datasets, transforms from torch import nn, optim
我們還要在Google colab上檢查PyTorch的版本：
# version of pytorch print(torch.__version__)
因此，我正在使用1.5.1版本的PyTorch。如果使用任何其他版本，則可能會(huì)收到一些警告或錯(cuò)誤，因此你可以更新到此版本的PyTorch。我們將對(duì)圖像執(zhí)行一些轉(zhuǎn)換，例如對(duì)像素值進(jìn)行歸一化，因此，讓我們也定義這些轉(zhuǎn)換：
# transformations to be applied on images transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,)), ])
現(xiàn)在，讓我們加載MNIST數(shù)據(jù)集的訓(xùn)練和測試集：
重慶分公司
重慶分公司
# defining the training and testing set
trainset = datasets.MNIST('./data', download=True, train=True, transform=transform)
testset = datasets.MNIST('./', download=True, train=False, transform=transform)接下來，我定義了訓(xùn)練和測試加載器，這將幫助我們分批加載訓(xùn)練和測試集。我將批量大小定義為64：
# defining trainloader and testloader trainloader = torch.utils.data.DataLoader(trainset, batch_size=64, shuffle=True) testloader = torch.utils.data.DataLoader(testset, batch_size=64, shuffle=True)
首先讓我們看一下訓(xùn)練集的摘要：
# shape of training data dataiter = iter(trainloader) images, labels = dataiter.next() print(images.shape) print(labels.shape)
因此，在每個(gè)批次中，我們有64個(gè)圖像，每個(gè)圖像的大小為28,28，并且對(duì)于每個(gè)圖像，我們都有一個(gè)相應(yīng)的標(biāo)簽。讓我們可視化訓(xùn)練圖像并查看其外觀：
# visualizing the training images plt.imshow(images[0].numpy().squeeze(), cmap='gray')
它是數(shù)字0的圖像。類似地，讓我們可視化測試集圖像：
# shape of validation data dataiter = iter(testloader) images, labels = dataiter.next() print(images.shape) print(labels.shape)
在測試集中，我們也有大小為64的批次?，F(xiàn)在讓我們定義架構(gòu)
我們將在這里使用CNN模型。因此，讓我們定義并訓(xùn)練該模型：
# defining the model architecture class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.cnn_layers = nn.Sequential( # Defining a 2D convolution layer nn.Conv2d(1, 4, kernel_size=3, stride=1, padding=1), nn.BatchNorm2d(4), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=2, stride=2), # Defining another 2D convolution layer nn.Conv2d(4, 4, kernel_size=3, stride=1, padding=1), nn.BatchNorm2d(4), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=2, stride=2), ) self.linear_layers = nn.Sequential( nn.Linear(4 * 7 * 7, 10) ) # Defining the forward pass def forward(self, x): x = self.cnn_layers(x) x = x.view(x.size(0), -1) x = self.linear_layers(x) return x
我們還定義優(yōu)化器和損失函數(shù)，然后我們將看一下該模型的摘要：
# defining the model model = Net() # defining the optimizer optimizer = optim.Adam(model.parameters(), lr=0.01) # defining the loss function criterion = nn.CrossEntropyLoss() # checking if GPU is available if torch.cuda.is_available(): model = model.cuda() criterion = criterion.cuda() print(model)
因此，我們有2個(gè)卷積層，這將有助于從圖像中提取特征。這些卷積層的特征傳遞到完全連接的層，該層將圖像分類為各自的類別?，F(xiàn)在我們的模型架構(gòu)已準(zhǔn)備就緒，讓我們訓(xùn)練此模型十個(gè)時(shí)期：
for i in range(10):
running_loss = 0
for images, labels in trainloader:
if torch.cuda.is_available():
images = images.cuda()
labels = labels.cuda()
# Training pass
optimizer.zero_grad()
output = model(images)
loss = criterion(output, labels)
#This is where the model learns by backpropagating
loss.backward()
#And optimizes its weights here
optimizer.step()
running_loss += loss.item()
else:
print("Epoch {} - Training loss: {}".format(i+1, running_loss/len(trainloader)))
你會(huì)看到訓(xùn)練隨著時(shí)期的增加而減少。這意味著我們的模型是從訓(xùn)練集中學(xué)習(xí)模式。讓我們在測試集上檢查該模型的性能：
# getting predictions on test set and measuring the performance
correct_count, all_count = 0, 0
for images,labels in testloader:
for i in range(len(labels)):
if torch.cuda.is_available():
images = images.cuda()
labels = labels.cuda()
img = images[i].view(1, 1, 28, 28)
with torch.no_grad():
logps = model(img)
ps = torch.exp(logps)
probab = list(ps.cpu()[0])
pred_label = probab.index(max(probab))
true_label = labels.cpu()[i]
if(true_label == pred_label):
correct_count += 1
all_count += 1
print("Number Of Images Tested =", all_count)
print("\nModel Accuracy =", (correct_count/all_count))
因此，我們總共測試了10000張圖片，并且該模型在預(yù)測測試圖片的標(biāo)簽方面的準(zhǔn)確率約為96％。
這是你可以在PyTorch中構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)的方法。在下一節(jié)中，我們將研究如何在TensorFlow中實(shí)現(xiàn)相同的體系結(jié)構(gòu)。
現(xiàn)在，讓我們在TensorFlow中使用卷積神經(jīng)網(wǎng)絡(luò)解決相同的MNIST問題。與往常一樣，我們將從導(dǎo)入庫開始：
# importing the libraries import tensorflow as tf from tensorflow.keras import datasets, layers, models from tensorflow.keras.utils import to_categorical import matplotlib.pyplot as plt
檢查一下我們正在使用的TensorFlow的版本：
# version of tensorflow print(tf.__version__)
因此，我們正在使用TensorFlow的2.2.0版本?，F(xiàn)在讓我們使用tensorflow.keras的數(shù)據(jù)集類加載MNIST數(shù)據(jù)集：
(train_images, train_labels), (test_images, test_labels) = datasets.mnist.load_data(path='mnist.npz') # Normalize pixel values to be between 0 and 1 train_images, test_images = train_images / 255.0, test_images / 255.0
在這里，我們已經(jīng)加載了訓(xùn)練以及MNIST數(shù)據(jù)集的測試集。此外，我們已經(jīng)將訓(xùn)練和測試圖像的像素值標(biāo)準(zhǔn)化了。接下來，讓我們可視化來自數(shù)據(jù)集的一些圖像：
# visualizing a few images plt.figure(figsize=(10,10)) for i in range(9): plt.subplot(3,3,i+1) plt.xticks([]) plt.yticks([]) plt.grid(False) plt.imshow(train_images[i], cmap='gray') plt.show()
這就是我們的數(shù)據(jù)集的樣子。我們有手寫數(shù)字的圖像。再來看一下訓(xùn)練和測試集的形狀：
# shape of the training and test set (train_images.shape, train_labels.shape), (test_images.shape, test_labels.shape)
因此，我們在訓(xùn)練集中有60,000張28乘28的圖像，在測試集中有10,000張相同形狀的圖像。接下來，我們將調(diào)整圖像的大小，并一鍵編碼目標(biāo)變量：
# reshaping the images train_images = train_images.reshape((60000, 28, 28, 1)) test_images = test_images.reshape((10000, 28, 28, 1)) # one hot encoding the target variable train_labels = to_categorical(train_labels) test_labels = to_categorical(test_labels)
現(xiàn)在，我們將定義模型的體系結(jié)構(gòu)。我們將使用Pytorch中定義的相同架構(gòu)。因此，我們的模型將是具有2個(gè)卷積層，以及最大池化層的組合，然后我們將有一個(gè)Flatten層，最后是一個(gè)有10個(gè)神經(jīng)元的全連接層，因?yàn)槲覀冇?0個(gè)類。
# defining the model architecture model = models.Sequential() model.add(layers.Conv2D(4, (3, 3), activation='relu', input_shape=(28, 28, 1))) model.add(layers.MaxPooling2D((2, 2), strides=2)) model.add(layers.Conv2D(4, (3, 3), activation='relu')) model.add(layers.MaxPooling2D((2, 2), strides=2)) model.add(layers.Flatten()) model.add(layers.Dense(10, activation='softmax'))
讓我們快速看一下該模型的摘要：
# summary of the model model.summary()
總而言之，我們有2個(gè)卷積層，2個(gè)最大池層，一個(gè)Flatten層和一個(gè)全連接層。模型中的參數(shù)總數(shù)為1198個(gè)?，F(xiàn)在我們的模型已經(jīng)準(zhǔn)備好了，我們將編譯它：
# compiling the model model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
我們正在使用Adam優(yōu)化器，你也可以對(duì)其進(jìn)行更改。損失函數(shù)被設(shè)置為分類交叉熵，因?yàn)槲覀冋诮鉀Q一個(gè)多類分類問題，并且度量標(biāo)準(zhǔn)是‘a(chǎn)ccuracy’?，F(xiàn)在讓我們訓(xùn)練模型10個(gè)時(shí)期
# training the model history = model.fit(train_images, train_labels, epochs=10, validation_data=(test_images, test_labels))
總而言之，最初，訓(xùn)練損失約為0.46，經(jīng)過10個(gè)時(shí)期后，訓(xùn)練損失降至0.08。10個(gè)時(shí)期后的訓(xùn)練和驗(yàn)證準(zhǔn)確性分別為97.31％和97.48％。
因此，這就是我們可以在TensorFlow中訓(xùn)練CNN的方式。
上述就是小編為大家分享的如何在PyTorch和TensorFlow中訓(xùn)練圖像分類模型了，如果剛好有類似的疑惑，不妨參照上述分析進(jìn)行理解。如果想知道更多相關(guān)知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道。
