Rumah  >  Artikel  >  pembangunan bahagian belakang  >  Cara menggunakan PyTorch untuk latihan rangkaian saraf

Cara menggunakan PyTorch untuk latihan rangkaian saraf

WBOY
WBOYasal
2023-08-02 17:10:511692semak imbas

Cara menggunakan PyTorch untuk latihan rangkaian saraf

Pengenalan:
PyTorch ialah rangka kerja pembelajaran mesin sumber terbuka berdasarkan Python Kefleksibelan dan kesederhanaannya menjadikannya pilihan pertama ramai penyelidik dan jurutera. Artikel ini akan memperkenalkan anda kepada cara menggunakan PyTorch untuk latihan rangkaian saraf dan memberikan contoh kod yang sepadan.

1. Pasang PyTorch
Sebelum bermula, anda perlu memasang PyTorch terlebih dahulu. Anda boleh memilih versi yang sesuai untuk sistem pengendalian dan perkakasan anda untuk dipasang melalui panduan pemasangan yang disediakan di tapak web rasmi (https://pytorch.org/). Setelah dipasang, anda boleh mengimport perpustakaan PyTorch dalam Python dan mula menulis kod.

2. Bina model rangkaian saraf
Sebelum menggunakan PyTorch untuk melatih rangkaian saraf, anda perlu membina model yang sesuai. PyTorch menyediakan kelas yang dipanggil torch.nn.Module, yang boleh anda warisi untuk menentukan model rangkaian saraf anda sendiri. torch.nn.Module的类,您可以通过继承该类来定义自己的神经网络模型。

下面是一个简单的例子,展示了如何使用PyTorch构建一个包含两个全连接层的神经网络模型:

import torch
import torch.nn as nn

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.fc1 = nn.Linear(in_features=784, out_features=256)
        self.fc2 = nn.Linear(in_features=256, out_features=10)
    
    def forward(self, x):
        x = x.view(x.size(0), -1)
        x = self.fc1(x)
        x = torch.relu(x)
        x = self.fc2(x)
        return x

net = Net()

在上面的代码中,我们首先定义了一个名为Net的类,并继承了torch.nn.Module类。在__init__方法中,我们定义了两个全连接层fc1fc2。然后,我们通过forward方法定义了数据在模型中前向传播的过程。最后,我们创建了一个Net的实例。

三、定义损失函数和优化器
在进行训练之前,我们需要定义损失函数和优化器。PyTorch提供了丰富的损失函数和优化器的选择,可以根据具体情况进行选择。

下面是一个示例,展示了如何定义一个使用交叉熵损失函数和随机梯度下降优化器的训练过程:

loss_fn = nn.CrossEntropyLoss()
optimizer = torch.optim.SGD(net.parameters(), lr=0.01)

在上面的代码中,我们将交叉熵损失函数和随机梯度下降优化器分别赋值给了loss_fnoptimizer变量。net.parameters()表示我们要优化神经网络模型中的所有可学习参数,lr参数表示学习率。

四、准备数据集
在进行神经网络训练之前,我们需要准备好训练数据集和测试数据集。PyTorch提供了一些实用的工具类,可以帮助我们加载和预处理数据集。

下面是一个示例,展示了如何加载MNIST手写数字数据集并进行预处理:

import torchvision
import torchvision.transforms as transforms

transform = transforms.Compose([
    transforms.ToTensor(),
    transforms.Normalize((0.5,), (0.5,)),
])

train_set = torchvision.datasets.MNIST(root='./data', train=True, download=True, transform=transform)
train_loader = torch.utils.data.DataLoader(train_set, batch_size=32, shuffle=True)

test_set = torchvision.datasets.MNIST(root='./data', train=False, download=True, transform=transform)
test_loader = torch.utils.data.DataLoader(test_set, batch_size=32, shuffle=False)

在上面的代码中,我们首先定义了一个transform变量,用于对数据进行预处理。然后,我们使用torchvision.datasets.MNIST类加载MNIST数据集,并使用train=Truetrain=False参数指定了训练数据集和测试数据集。最后,我们使用torch.utils.data.DataLoader类将数据集转换成一个可以迭代的数据加载器。

五、开始训练
准备好数据集后,我们就可以开始进行神经网络的训练。在一个训练循环中,我们需要依次完成以下步骤:将输入数据输入到模型中,计算损失函数,反向传播更新梯度,优化模型。

下面是一个示例,展示了如何使用PyTorch进行神经网络训练:

for epoch in range(epochs):
    running_loss = 0.0
    for i, data in enumerate(train_loader):
        inputs, labels = data
        
        optimizer.zero_grad()
        
        outputs = net(inputs)
        loss = loss_fn(outputs, labels)
        
        loss.backward()
        optimizer.step()
        
        running_loss += loss.item()
        
        if (i+1) % 100 == 0:
            print('[%d, %5d] loss: %.3f' % (epoch+1, i+1, running_loss/100))
            running_loss = 0.0

在上面的代码中,我们首先使用enumerate函数遍历了训练数据加载器,得到了输入数据和标签。然后,我们将梯度清零,将输入数据输入到模型中,计算预测结果和损失函数。接着,我们通过backward方法计算梯度,再通过step方法更新模型参数。最后,我们累加损失,并根据需要进行打印。

六、测试模型
训练完成后,我们还需要测试模型的性能。我们可以通过计算模型在测试数据集上的准确率来评估模型的性能。

下面是一个示例,展示了如何使用PyTorch测试模型的准确率:

correct = 0
total = 0

with torch.no_grad():
    for data in test_loader:
        inputs, labels = data
        outputs = net(inputs)
        _, predicted = torch.max(outputs.data, 1)
        total += labels.size(0)
        correct += (predicted == labels).sum().item()

accuracy = 100 * correct / total
print('Accuracy: %.2f %%' % accuracy)

在上面的代码中,我们首先定义了两个变量correcttotal,用于计算正确分类的样本和总样本数。接着,我们使用torch.no_grad()

Berikut ialah contoh mudah yang menunjukkan cara menggunakan PyTorch untuk membina model rangkaian saraf yang mengandungi dua lapisan bersambung sepenuhnya:

rrreee
Dalam kod di atas, kami mula-mula mentakrifkan kelas bernama Net dan mewarisi daripada torch.nn. Modul kelas. Dalam kaedah __init__, kami mentakrifkan dua lapisan bersambung sepenuhnya fc1 dan fc2. Kemudian, kami mentakrifkan proses penyebaran data ke hadapan dalam model melalui kaedah forward. Akhir sekali, kami mencipta contoh Net.

3. Tentukan fungsi kehilangan dan pengoptimum

Sebelum latihan, kita perlu menentukan fungsi kehilangan dan pengoptimum. PyTorch menyediakan pelbagai pilihan fungsi kehilangan dan pengoptimum, yang boleh dipilih mengikut keadaan tertentu.
  1. Berikut ialah contoh yang menunjukkan cara mentakrifkan proses latihan menggunakan fungsi kehilangan entropi silang dan pengoptimum keturunan kecerunan stokastik:
  2. rrreee
  3. Dalam kod di atas, kami menetapkan fungsi kehilangan entropi silang dan pengoptimum keturunan kecerunan stokastik secara berasingan Pembolehubah loss_fn dan optimizer diberikan. net.parameters() menunjukkan bahawa kami ingin mengoptimumkan semua parameter yang boleh dipelajari dalam model rangkaian saraf dan parameter lr menunjukkan kadar pembelajaran.
4 Sediakan set data🎜Sebelum melatih rangkaian saraf, kita perlu menyediakan set data latihan dan set data ujian. PyTorch menyediakan beberapa kelas alat praktikal yang boleh membantu kami memuatkan dan praproses set data. 🎜🎜Berikut ialah contoh yang menunjukkan cara memuatkan set data digit tulisan tangan MNIST dan praprosesnya: 🎜rrreee🎜Dalam kod di atas, kami mula-mula mentakrifkan pembolehubah transformasi untuk mengubah prapemprosesan data. Kami kemudiannya memuatkan set data MNIST menggunakan kelas torchvision.datasets.MNIST dan menentukan data latihan menggunakan parameter train=True dan train=False set dan set data ujian. Akhir sekali, kami menggunakan kelas torch.utils.data.DataLoader untuk menukar set data kepada pemuat data boleh lelar. 🎜🎜5. Mulakan latihan🎜Selepas menyediakan set data, kita boleh mula melatih rangkaian saraf. Dalam gelung latihan, kita perlu melengkapkan langkah berikut mengikut urutan: memasukkan data input ke dalam model, mengira fungsi kehilangan, merambat belakang kecerunan yang dikemas kini dan mengoptimumkan model. 🎜🎜Berikut ialah contoh yang menunjukkan cara menggunakan PyTorch untuk latihan rangkaian saraf: 🎜rrreee🎜Dalam kod di atas, kami mula-mula melintasi pemuat data latihan menggunakan fungsi enumerate untuk mendapatkan data input dan Label. Kami kemudiannya mensifarkan kecerunan, memasukkan data input ke dalam model, dan mengira ramalan dan fungsi kehilangan. Seterusnya, kami mengira kecerunan melalui kaedah undur dan kemudian mengemas kini parameter model melalui kaedah step. Akhirnya, kami mengumpul kerugian dan mencetaknya mengikut keperluan. 🎜🎜 6. Uji model 🎜Selepas latihan selesai, kita masih perlu menguji prestasi model. Kita boleh menilai prestasi model dengan mengira ketepatannya pada set data ujian. 🎜🎜Berikut ialah contoh yang menunjukkan cara menguji ketepatan model menggunakan PyTorch: 🎜rrreee🎜Dalam kod di atas, kami mula-mula mentakrifkan dua pembolehubah betul dan jumlah, digunakan untuk mengira bilangan sampel yang dikelaskan dengan betul dan jumlah bilangan sampel. Seterusnya, kami menggunakan pengurus konteks torch.no_grad() untuk mematikan pengiraan kecerunan, dengan itu mengurangkan penggunaan memori. Kemudian, kami mengira hasil ramalan secara berurutan, mengemas kini bilangan sampel yang dikelaskan dengan betul dan jumlah bilangan sampel. Akhir sekali, ketepatan dikira berdasarkan bilangan sampel yang dikelaskan dengan betul dan jumlah bilangan sampel dan dicetak. 🎜🎜Ringkasan: 🎜Melalui pengenalan artikel ini, anda telah memahami langkah asas cara menggunakan PyTorch untuk latihan rangkaian saraf, dan mempelajari cara membina model rangkaian saraf, menentukan fungsi kehilangan dan pengoptimum, menyediakan set data, memulakan latihan dan menguji model. Saya harap artikel ini dapat membantu kerja dan kajian anda dalam menggunakan PyTorch untuk latihan rangkaian saraf. 🎜🎜Rujukan: 🎜🎜🎜Tapak web rasmi PyTorch: https://pytorch.org/🎜🎜Dokumentasi PyTorch: https://pytorch.org/docs/stable/index.html🎜🎜

Atas ialah kandungan terperinci Cara menggunakan PyTorch untuk latihan rangkaian saraf. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan:
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn