首頁  >  文章  >  後端開發  >  Python中的GAN演算法實例

Python中的GAN演算法實例

王林
王林原創
2023-06-10 09:53:501195瀏覽

生成對抗網路(GAN,Generative Adversarial Networks)是一種深度學習演算法,它透過兩個神經網路互相競爭的方式來產生新的資料。 GAN被廣泛用於圖像、音訊、文字等領域的生成任務。在本文中,我們將使用Python編寫一個GAN演算法實例,用於產生手寫數位影像。

  1. 資料集準備

我們將使用MNIST資料集作為我們的訓練資料集。 MNIST資料集包含60,000個訓練影像和10,000個測試影像,每個影像都是28x28的灰階影像。我們將使用TensorFlow庫來載入和處理資料集。在載入資料集之前,我們需要安裝TensorFlow庫和NumPy庫。

import tensorflow as tf
import numpy as np

(train_images, train_labels), (test_images, test_labels) = tf.keras.datasets.mnist.load_data()

資料集預處理

train_images = train_images.reshape(train_images.shape[0], 28, 28, 1).astype('float32')
train_images = (train_images - 127.5) / 127. # 將像素值歸一化到[-1, 1]的範圍內

  1. GAN架構設計與訓練

我們的GAN將包括兩個神經網路:一個生成器網路和一個判別器網路。生成器網路將接收雜訊向量作為輸入,並輸出一個28x28的影像。判別器網路將接收28x28的影像作為輸入,並輸出該影像是真實影像的機率。

生成器網路和判別器網路的架構都將採用卷積神經網路(CNN)。在生成器網路中,我們將使用反捲積層(Deconvolutional Layer)來將雜訊向量解碼為一個28x28的影像。在判別器網路中,我們將以卷積層(Convolutional Layer)來對輸入影像進行分類。

生成器網路的輸入是長度為100的雜訊向量。我們將透過使用tf.keras.Sequential函數來堆疊網路層。

def make_generator_model():

model = tf.keras.Sequential()
model.add(tf.keras.layers.Dense(7*7*256, use_bias=False, input_shape=(100,)))
model.add(tf.keras.layers.BatchNormalization())
model.add(tf.keras.layers.LeakyReLU())

model.add(tf.keras.layers.Reshape((7, 7, 256)))
assert model.output_shape == (None, 7, 7, 256) # 注意:batch size没有限制

model.add(tf.keras.layers.Conv2DTranspose(128, (5, 5), strides=(1, 1), padding='same', use_bias=False))
assert model.output_shape == (None, 7, 7, 128)
model.add(tf.keras.layers.BatchNormalization())
model.add(tf.keras.layers.LeakyReLU())

model.add(tf.keras.layers.Conv2DTranspose(64, (5, 5), strides=(2, 2), padding='same', use_bias=False))
assert model.output_shape == (None, 14, 14, 64)
model.add(tf.keras.layers.BatchNormalization())
model.add(tf.keras.layers.LeakyReLU())

model.add(tf.keras.layers.Conv2DTranspose(1, (5, 5), strides=(2, 2), padding='same', use_bias=False, activation='tanh'))
assert model.output_shape == (None, 28, 28, 1)

return model

判別器網路的輸入是28x28的圖像。我們將透過使用tf.keras.Sequential函數來堆疊網路層。

def make_discriminator_model():

model = tf.keras.Sequential()
model.add(tf.keras.layers.Conv2D(64, (5, 5), strides=(2, 2), padding='same',
                                 input_shape=[28, 28, 1]))
model.add(tf.keras.layers.LeakyReLU())
model.add(tf.keras.layers.Dropout(0.3))

model.add(tf.keras.layers.Conv2D(128, (5, 5), strides=(2, 2), padding='same'))
model.add(tf.keras.layers.LeakyReLU())
model.add(tf.keras.layers.Dropout(0.3))

model.add(tf.keras.layers.Flatten())
model.add(tf.keras.layers.Dense(1))

return model

接下來,我們將寫訓練程式碼。我們將在每個批次中交替訓練生成器網路和判別器網路。在訓練過程中,我們將透過使用tf.GradientTape()函數來記錄梯度,然後使用tf.keras.optimizers.Adam()函數來優化網路。

generator = make_generator_model()
discriminator = make_discriminator_model()

損失函數

#cross_entropy = tf.keras.losses.BinaryCrossentropy(from_logits>

判別器損失函數

def discriminator_loss(real_output, fake_output):

real_loss = cross_entropy(tf.ones_like(real_output), real_output)
fake_loss = cross_entropy(tf.zeros_like(fake_output), fake_output)
total_loss = real_loss + fake_loss
return total_loss

生成器損失函數

def generator_loss(fake_output):

return cross_entropy(tf.ones_like(fake_output), fake_output)

優化器

generator_optimizer = tf.keras.optimizers.Adam(1e-4)

discriminator_optimizer = tf.keras.optimizers.Adam(1e-4)

# 定義訓練函數



#1函數
@tf.function

def train_step(images):

noise = tf.random.normal([BATCH_SIZE, 100])

with tf.GradientTape() as gen_tape, tf.GradientTape() as disc_tape:
    generated_images = generator(noise, training=True)

    real_output = discriminator(images, training=True)
    fake_output = discriminator(generated_images, training=True)

    gen_loss = generator_loss(fake_output)
    disc_loss = discriminator_loss(real_output, fake_output)

gradients_of_generator = gen_tape.gradient(gen_loss, generator.trainable_variables)
gradients_of_discriminator = disc_tape.gradient(disc_loss, discriminator.trainable_variables)

generator_optimizer.apply_gradients(zip(gradients_of_generator, generator.trainable_variables))
discriminator_optimizer.apply_gradients(zip(gradients_of_discriminator, discriminator.trainable_variables))

BATCH_SIZE = 256

EPOCHS = 100

for epoch in range(EPOCHS):

for i in range(train_images.shape[0] // BATCH_SIZE):
    batch_images = train_images[i*BATCH_SIZE:(i+1)*BATCH_SIZE]
    train_step(batch_images)

產生新圖像

在訓練完成後,我們將使用生成器網路來產生新圖像。我們將隨機產生100個雜訊向量,並將它們輸入到生成器網路中,以產生新的手寫數位影像。

import matplotlib.pyplot as plt

###def generate_and_save_images(model, epoch, test_input):###
# 注意 training` 设定为 False
# 因此,所有层都在推理模式下运行(batchnorm)。
predictions = model(test_input, training=False)

fig = plt.figure(figsize=(4, 4))

for i in range(predictions.shape[0]):
    plt.subplot(4, 4, i+1)
    plt.imshow(predictions[i, :, :, 0] * 127.5 + 127.5, cmap='gray')
    plt.axis('off')

plt.savefig('image_at_epoch_{:04d}.png'.format(epoch))
plt.show()

###隨機產生雜訊向量######noise = tf.random###rrreee###隨機產生雜訊向量#####noise = tf.random .normal([16, 100])###generate_and_save_images(generator, 0, noise)######結果顯示生成器已經成功地產生了新的手寫數位影像。我們可以透過逐步提高訓練輪數來改善模型的性能。此外,我們還可以透過嘗試其他的超參數組合和網路架構來進一步改善GAN的效能。 ######總之,GAN演算法是一種非常有用的深度學習演算法,可以用來產生各種類型的資料。在本文中,我們使用Python編寫了一個用於生成手寫數位影像的GAN演算法實例,並展示如何訓練和使用生成器網路來產生新影像。 ###

以上是Python中的GAN演算法實例的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn