pytorch神經(jīng)網(wǎng)絡(luò)之卷積層與全連接層參數(shù)的設(shè)置方法

發(fā)布時(shí)間：2020-10-21 23:33:02 來(lái)源：腳本之家閱讀：367 作者：嘿芝麻欄目：開(kāi)發(fā)技術(shù)

當(dāng)使用pytorch寫(xiě)網(wǎng)絡(luò)結(jié)構(gòu)的時(shí)候，本人發(fā)現(xiàn)在卷積層與第一個(gè)全連接層的全連接層的input_features不知道該寫(xiě)多少？一開(kāi)始本人的做法是對(duì)著pytorch官網(wǎng)的公式推，但是總是算錯(cuò)。

后來(lái)發(fā)現(xiàn)，寫(xiě)完卷積層后可以根據(jù)模擬神經(jīng)網(wǎng)絡(luò)的前向傳播得出這個(gè)。

全連接層的input_features是多少。首先來(lái)看一下這個(gè)簡(jiǎn)單的網(wǎng)絡(luò)。這個(gè)卷積的Sequential本人就不再啰嗦了，現(xiàn)在看nn.Linear(？？？, 4096)這個(gè)全連接層的第一個(gè)參數(shù)該為多少呢？

請(qǐng)看下文詳解。

class AlexNet(nn.Module):
  def __init__(self):
    super(AlexNet, self).__init__()

    self.conv = nn.Sequential(
      nn.Conv2d(3, 96, kernel_size=11, stride=4),
      nn.ReLU(inplace=True),
      nn.MaxPool2d(kernel_size=3, stride=2),

      nn.Conv2d(96, 256, kernel_size=5, padding=2),
      nn.ReLU(inplace=True),
      nn.MaxPool2d(kernel_size=3, stride=2),

      nn.Conv2d(256, 384, kernel_size=3, padding=1),
      nn.ReLU(inplace=True),
      nn.Conv2d(384, 384, kernel_size=3, padding=1),
      nn.ReLU(inplace=True),
      nn.Conv2d(384, 256, kernel_size=3, padding=1),
      nn.ReLU(inplace=True),
      nn.MaxPool2d(kernel_size=3, stride=2)
    )

    self.fc = nn.Sequential(
      nn.Linear(？？？, 4096)
      ......
      ......
    )

首先，我們先把forward寫(xiě)一下：

  def forward(self, x):
    x = self.conv(x)
    print x.size()

就寫(xiě)到這里就可以了。其次，我們初始化一下網(wǎng)絡(luò)，隨機(jī)一個(gè)輸入：

import torch
from Alexnet.AlexNet import *
from torch.autograd import Variable

if __name__ == '__main__':
  net = AlexNet()

  data_input = Variable(torch.randn([1, 3, 96, 96])) # 這里假設(shè)輸入圖片是96x96
  print data_input.size()
  net(data_input)

結(jié)果如下：

(1L, 3L, 96L, 96L)
(1L, 256L, 1L, 1L)

顯而易見(jiàn)，咱們這個(gè)全連接層的input_features為256。

以上這篇pytorch神經(jīng)網(wǎng)絡(luò)之卷積層與全連接層參數(shù)的設(shè)置方法就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持億速云。

向AI問(wèn)一下細(xì)節(jié)

pytorch神經(jīng)網(wǎng)絡(luò)之卷積層與全連接層參數(shù)的設(shè)置方法

猜你喜歡

最新資訊

相關(guān)推薦

相關(guān)標(biāo)簽