pytorch + visdom は単純な分類問題を処理します

この記事は主に pytorch + visdom が簡単な分類問題を処理する方法を紹介します。これには特定の参考値があります。必要な友達はそれを参照してください。

システム: win 10 グラフィック カード。 : gtx965m cpu: i7-6700HQ

python 3.61

pytorch 0.3



パッケージリファレンス

import torch
from torch.autograd import Variable
import torch.nn.functional as F
import numpy as np
import visdom
import time
from torch import nn,optim

データ準備

use_gpu = True
ones = np.ones((500,2))
x1 = torch.normal(6*torch.from_numpy(ones),2)
y1 = torch.zeros(500) 
x2 = torch.normal(6*torch.from_numpy(ones*[-1,1]),2)
y2 = y1 +1
x3 = torch.normal(-6*torch.from_numpy(ones),2)
y3 = y1 +2
x4 = torch.normal(6*torch.from_numpy(ones*[1,-1]),2)
y4 = y1 +3 

x = torch.cat((x1, x2, x3 ,x4), 0).float()
y = torch.cat((y1, y2, y3, y4), ).long()

以下のビジュアライゼーションを見てください:

視覚化の準備

まず観察する必要があるウィンドウを作成します

viz = visdom.Visdom()
colors = np.random.randint(0,255,(4,3)) #颜色随机
#线图用来观察loss 和 accuracy
line = viz.line(X=np.arange(1,10,1), Y=np.arange(1,10,1))
#散点图用来观察分类变化
scatter = viz.scatter(
  X=x,
  Y=y+1, 
  opts=dict(
    markercolor = colors,
    marksize = 5,
    legend=["0","1","2","3"]),)
#text 窗口用来显示loss 、accuracy 、时间
text = viz.text("FOR TEST")
#散点图做对比
viz.scatter(
  X=x,
  Y=y+1, 
  opts=dict(
    markercolor = colors,
    marksize = 5,
    legend=["0","1","2","3"]
  ),
)

効果は次のとおりです:

処理

入力2、出力4

logstic = nn.Sequential(
  nn.Linear(2,4)
)

GPUまたはCPUの選択:

if use_gpu:
  gpu_status = torch.cuda.is_available()
  if gpu_status:
    logstic = logstic.cuda()
    # net = net.cuda()
    print("###############使用gpu##############")
  else : print("###############使用cpu##############")
else:
  gpu_status = False
  print("###############使用cpu##############")

オプティマイザと損失関数:

loss_f = nn.CrossEntropyLoss()
optimizer_l = optim.SGD(logstic.parameters(), lr=0.001)

2000回トレーニング:

start_time = time.time()
time_point, loss_point, accuracy_point = [], [], []
for t in range(2000):
  if gpu_status:
    train_x = Variable(x).cuda()
    train_y = Variable(y).cuda()
  else:
    train_x = Variable(x)
    train_y = Variable(y)
  # out = net(train_x)
  out_l = logstic(train_x)
  loss = loss_f(out_l,train_y)
  optimizer_l.zero_grad()
  loss.backward()
  optimizer_l.step()

トレーニングの観察と視覚化:

if t % 10 == 0:
  prediction = torch.max(F.softmax(out_l, 1), 1)[1]
  pred_y = prediction.data
  accuracy = sum(pred_y ==train_y.data)/float(2000.0)
  loss_point.append(loss.data[0])
  accuracy_point.append(accuracy)
  time_point.append(time.time()-start_time)
  print("[{}/{}] | accuracy : {:.3f} | loss : {:.3f} | time : {:.2f} ".format(t + 1, 2000, accuracy, loss.data[0],
                                  time.time() - start_time))
  viz.line(X=np.column_stack((np.array(time_point),np.array(time_point))),
       Y=np.column_stack((np.array(loss_point),np.array(accuracy_point))),
       win=line,
       opts=dict(legend=["loss", "accuracy"]))
   #这里的数据如果用gpu跑会出错，要把数据换成cpu的数据 .cpu()即可
  viz.scatter(X=train_x.cpu().data, Y=pred_y.cpu()+1, win=scatter,name="add",
        opts=dict(markercolor=colors,legend=["0", "1", "2", "3"]))
  viz.text("<h3 id="accuracy-nbsp-nbsp">accuracy : {}</h3><br><h3 align=&#39;center&#39; style=&#39;color:pink&#39;>"
       "loss : {:.4f}</h3><br><h3 id="time-nbsp-nbsp-f">time : {:.1f}</h3>"
       .format(accuracy,loss.data[0],time.time()-start_time),win =text)

最初に CPU で実行した結果は次のようになります:

次に GPU で実行した結果は次のようになります:

その CPU を見つけましたは GPU よりもはるかに高速ですが、機械学習は GPU であるべきだと聞きました。Baidu で検索したところ、Zhihu での答えは次のとおりです。

私の理解では、GPU の計算能力は GPU の計算能力よりもはるかに高いです。画像認識や大量の行列演算を処理する場合は、CPU の方が有利です。

ニューラル層を追加します:

net = nn.Sequential(
  nn.Linear(2, 10),
  nn.ReLU(),  #激活函数
  nn.Linear(10, 4)
)

10 ユニットのニューラル層を追加し、効果が向上するかどうかを確認します:

CPU を使用する:

GPU を使用する:

比較観察すると、単純な分類問題 (入力と出力が少ない) を扱う場合、ニューラル層と GPU は機械学習をサポートしないように見えます。

関連する推奨事項:

回帰と分類を実装するために PyTorch で単純なニューラル ネットワークを構築する例

PyTorch のバッチ トレーニングとオプティマイザーの比較の詳細な説明

以上がpytorch + visdom は単純な分類問題を処理しますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。