使用 pytorch 創(chuàng)建神經(jīng)網(wǎng)絡(luò)擬合sin函數(shù)的實(shí)現(xiàn)

我們知道深度神經(jīng)網(wǎng)絡(luò)的本質(zhì)是輸入端數(shù)據(jù)和輸出端數(shù)據(jù)的一種高維非線性擬合，如何更好的理解它，下面嘗試擬合一個(gè)正弦函數(shù)，本文可以通過簡(jiǎn)單設(shè)置節(jié)點(diǎn)數(shù)，實(shí)現(xiàn)任意隱藏層數(shù)的擬合。

基于pytorch的深度神經(jīng)網(wǎng)絡(luò)實(shí)戰(zhàn)，無論任務(wù)多么復(fù)雜，都可以將其拆分成必要的幾個(gè)模塊來進(jìn)行理解。

1）構(gòu)建數(shù)據(jù)集，包括輸入，對(duì)應(yīng)的標(biāo)簽y
2) 構(gòu)建神經(jīng)網(wǎng)絡(luò)模型，一般基于nn.Module繼承一個(gè)net類，必須的是__init__函數(shù)和forward函數(shù)。__init__構(gòu)造函數(shù)包括創(chuàng)建該類是必須的參數(shù)，比如輸入節(jié)點(diǎn)數(shù)，隱藏層節(jié)點(diǎn)數(shù)，輸出節(jié)點(diǎn)數(shù)。forward函數(shù)則定義了整個(gè)網(wǎng)絡(luò)的前向傳播過程，類似于一個(gè)Sequential。
3）實(shí)例化上步創(chuàng)建的類。
4）定義損失函數(shù)（判別準(zhǔn)則），比如均方誤差，交叉熵等
5）定義優(yōu)化器（optim：SGD,adam,adadelta等），設(shè)置學(xué)習(xí)率
6）開始訓(xùn)練。開始訓(xùn)練是一個(gè)從0到設(shè)定的epoch的循環(huán)，循環(huán)期間，根據(jù)loss,不斷迭代和更新網(wǎng)絡(luò)權(quán)重參數(shù)。

無論多么復(fù)雜的網(wǎng)絡(luò)，基于pytorch的深度神經(jīng)網(wǎng)絡(luò)都包括6個(gè)模塊，訓(xùn)練階段包括5個(gè)步驟，本文只通過擬合一個(gè)正弦函數(shù)來說明加深理解。

廢話少說，直接上代碼：

from torch.utils.data import DataLoader
from torch.utils.data import TensorDataset
import torch.nn as nn
import numpy as np
import torch

# 準(zhǔn)備數(shù)據(jù)
x=np.linspace(-2*np.pi,2*np.pi,400)
y=np.sin(x)
# 將數(shù)據(jù)做成數(shù)據(jù)集的模樣
X=np.expand_dims(x,axis=1)
Y=y.reshape(400,-1)
# 使用批訓(xùn)練方式
dataset=TensorDataset(torch.tensor(X,dtype=torch.float),torch.tensor(Y,dtype=torch.float))
dataloader=DataLoader(dataset,batch_size=100,shuffle=True)

# 神經(jīng)網(wǎng)絡(luò)主要結(jié)構(gòu)，這里就是一個(gè)簡(jiǎn)單的線性結(jié)構(gòu)

class Net(nn.Module):
  def __init__(self):
    super(Net, self).__init__()
    self.net=nn.Sequential(
      nn.Linear(in_features=1,out_features=10),nn.ReLU(),
      nn.Linear(10,100),nn.ReLU(),
      nn.Linear(100,10),nn.ReLU(),
      nn.Linear(10,1)
    )

  def forward(self, input:torch.FloatTensor):
    return self.net(input)

net=Net()

# 定義優(yōu)化器和損失函數(shù)
optim=torch.optim.Adam(Net.parameters(net),lr=0.001)
Loss=nn.MSELoss()

# 下面開始訓(xùn)練：
# 一共訓(xùn)練 1000次
for epoch in range(1000):
  loss=None
  for batch_x,batch_y in dataloader:
    y_predict=net(batch_x)
    loss=Loss(y_predict,batch_y)
    optim.zero_grad()
    loss.backward()
    optim.step()
  # 每100次 的時(shí)候打印一次日志
  if (epoch+1)%100==0:
    print("step: {0} , loss: {1}".format(epoch+1,loss.item()))

# 使用訓(xùn)練好的模型進(jìn)行預(yù)測(cè)
predict=net(torch.tensor(X,dtype=torch.float))

# 繪圖展示預(yù)測(cè)的和真實(shí)數(shù)據(jù)之間的差異
import matplotlib.pyplot as plt
plt.plot(x,y,label="fact")
plt.plot(x,predict.detach().numpy(),label="predict")
plt.title("sin function")
plt.xlabel("x")
plt.ylabel("sin(x)")
plt.legend()
plt.savefig(fname="result.png",figsize=[10,10])
plt.show()

輸出結(jié)果：

step: 100 , loss: 0.06755948066711426
step: 200 , loss: 0.003788222325965762
step: 300 , loss: 0.0004728269996121526
step: 400 , loss: 0.0001810075482353568
step: 500 , loss: 0.0001108720971387811
step: 600 , loss: 6.29749265499413e-05
step: 700 , loss: 3.707894938997924e-05
step: 800 , loss: 0.0001250380591955036
step: 900 , loss: 3.0654005968244746e-05
step: 1000 , loss: 4.349641676526517e-05

輸出圖像：

到此這篇關(guān)于使用 pytorch 創(chuàng)建神經(jīng)網(wǎng)絡(luò)擬合sin函數(shù)的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)pytorch 創(chuàng)建擬合sin函數(shù)內(nèi)容請(qǐng)搜索億速云以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持億速云！