溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》
您好，登錄后才能下訂單哦！
這篇文章主要介紹Pytorch訓(xùn)練過程出現(xiàn)nan怎么辦，文中介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們一定要看完！
使用shuffleNetV2+，使用自己的數(shù)據(jù)集，遇到了loss是nan的情況，而且top1精確率出現(xiàn)斷崖式上升，這顯示是不正常的。
在網(wǎng)上查了下解決方案。我的問題是出在學(xué)習(xí)率上了。
我自己做的樣本數(shù)據(jù)集比較小，就三類，每類大概三百多張，初始學(xué)習(xí)率是0.5。后來設(shè)置為0.1就解決了。
按照解決方案上寫的。出現(xiàn)nan的情況還有以下幾種：
學(xué)習(xí)率太大，但是樣本數(shù)據(jù)集又很小。（我的情況）
自定義的loss除以了一個很小的數(shù)字，小到接近0。
數(shù)據(jù)不干凈，數(shù)據(jù)本身就有nan，可以用numpy.isnan檢查。
target，即label是大于等于0的。從1到類別數(shù)目-1變化。
以上是“Pytorch訓(xùn)練過程出現(xiàn)nan怎么辦”這篇文章的所有內(nèi)容，感謝各位的閱讀！希望分享的內(nèi)容對大家有幫助，更多相關(guān)知識，歡迎關(guān)注億速云行業(yè)資訊頻道！
免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點不代表本網(wǎng)站立場，如果涉及侵權(quán)請聯(lián)系站長郵箱：is@yisu.com進(jìn)行舉報，并提供相關(guān)證據(jù)，一經(jīng)查實，將立刻刪除涉嫌侵權(quán)內(nèi)容。
億速云公眾號
手機(jī)網(wǎng)站二維碼
