您好,登錄后才能下訂單哦!
使用PyTorch訓(xùn)練LSTM時出現(xiàn)loss.backward()報(bào)錯如何解決?相信很多沒有經(jīng)驗(yàn)的人對此束手無策,為此本文總結(jié)了問題出現(xiàn)的原因和解決方法,通過這篇文章希望你能解決這個問題。
正確做法:
LSRM / RNN模塊初始化時定義好hidden,每次forward都要加上self.hidden = self.init_hidden(): Class LSTMClassifier(nn.Module): def __init__(self, embedding_dim, hidden_dim): # 此次省略其它代碼 self.rnn_cell = nn.LSTM(embedding_dim, hidden_dim) self.hidden = self.init_hidden() # 此次省略其它代碼 def init_hidden(self): # 開始時刻, 沒有隱狀態(tài) # 關(guān)于維度設(shè)置的詳情,請參考 Pytorch 文檔 # 各個維度的含義是 (Seguence, minibatch_size, hidden_dim) return (torch.zeros(1, 1, self.hidden_dim), torch.zeros(1, 1, self.hidden_dim)) def forward(self, x): # 此次省略其它代碼 self.hidden = self.init_hidden() # 就是加上這句!!!! out, self.hidden = self.rnn_cell(x, self.hidden) # 此次省略其它代碼 return out
或者其它模塊每次調(diào)用這個模塊時,其它模塊的forward()都對這個LSTM模塊init_hidden()一下。
Class LSTM_Model(nn.Module): def __init__(self, embedding_dim, hidden_dim): # 此次省略其它代碼 self.rnn = LSTMClassifier(embedding_dim, hidden_dim) # 此次省略其它代碼 def forward(self, x): # 此次省略其它代碼 self.rnn.hidden = self.rnn.init_hidden() # 就是加上這句!!!! out = self.rnn(x) # 此次省略其它代碼 return out
這是因?yàn)椋?/p>
根據(jù) 官方tutorial,在 loss 反向傳播的時候,pytorch 試圖把 hidden state 也反向傳播,但是在新的一輪 batch 的時候 hidden state 已經(jīng)被內(nèi)存釋放了,所以需要每個 batch 重新 init (clean out hidden state), 或者 detach,從而切斷反向傳播。
補(bǔ)充:pytorch:在執(zhí)行l(wèi)oss.backward()時out of memory報(bào)錯
在自己編寫SurfNet網(wǎng)絡(luò)的過程中,出現(xiàn)了這個問題,查閱資料后,將得到的解決方法匯總?cè)缦?/p>
1、reduce batch size, all the way down to 1
2、remove everything to CPU leaving only the network on the GPU
3、remove validation code, and only executing the training code
4、reduce the size of the network (I reduced it significantly: details below)
5、I tried scaling the magnitude of the loss that is backpropagating as well to a much smaller value
在訓(xùn)練時,在每一個step后面加上:
torch.cuda.empty_cache()
在每一個驗(yàn)證時的step之后加上代碼:
with torch.no_grad()
不要在循環(huán)訓(xùn)練中累積歷史記錄
total_loss = 0 for i in range(10000): optimizer.zero_grad() output = model(input) loss = criterion(output) loss.backward() optimizer.step() total_loss += loss
看完上述內(nèi)容,你們掌握使用PyTorch訓(xùn)練LSTM時出現(xiàn)loss.backward()報(bào)錯如何解決的方法了嗎?如果還想學(xué)到更多技能或想了解更多相關(guān)內(nèi)容,歡迎關(guān)注億速云行業(yè)資訊頻道,感謝各位的閱讀!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。