您好,登錄后才能下訂單哦!
不懂怎么解決Pytorch 自定義子Module .cuda() tensor失敗問題?其實想解決這個問題也不難,下面讓小編帶著大家一起學(xué)習(xí)怎么去解決,希望大家閱讀完這篇文章后大所收獲。
在剛從tensorflow轉(zhuǎn)入pytorch,對于自定義的nn.Module 碰到了個問題,即使把模組 modle=Model().cuda(),里面的子Module的parameter都沒有被放入cuda,導(dǎo)致輸入是torch.cuda.FloatTensor,但是比如CNN的weight卻還是torch.FloatTensor
(當(dāng)然最粗暴的方法就是直接在子模組里面都用了 .cuda()
但是問題并不在那,可能是調(diào)用子模組的時候,存在某些錯誤,導(dǎo)致父模組沒有把子模組的parameter注冊到pytorch中。
而我遇到的錯誤就是,使用list來存放子模組的對象,導(dǎo)致list中的parameter沒有注冊。
解決方案就是 使用nn.ModuleList()這個封裝的函數(shù) 來替換list() / []
參考這里
補充知識:關(guān)于Pytorch框架下報錯CUDA驅(qū)動版本不滿足CUDA運行版本——一種可能的原因及解決辦法
運行Pytorch代碼的時候遇到:
RuntimeError: cuda runtime error (35) : CUDA driver version is insufficient for CUDA runtime version at /pytorch/aten/src/THC/THCGeneral.cpp:74
可能原因:每一個pytorch版本都有對應(yīng)的cuda版本,可能是在安裝pytorch的時候,選擇的pytorch版本所對應(yīng)的版本cuda版本與本機所安裝的cuda版本不相符。
check步驟:
#查看pytorch版本
import torch
torch.__version__
#查看pytorch版本對應(yīng)的cuda版本
torch.version.cuda
#查看cuda是否可用
torch.cuda.is_available()
#查看Linux server安裝的cuda版本
#切換到/usr/local/cuda/samples/1_Utilities/deviceQuery然后運行
./deviceQuery
出現(xiàn)類似以下信息:
./deviceQuery Starting... CUDA Device Query (Runtime API) version (CUDART static linking) Detected 1 CUDA Capable device(s) Device 0: "GeForce GTX TITAN Black" CUDA Driver Version / Runtime Version 8.0 / 8.0 CUDA Capability Major/Minor version number: 3.5 Total amount of global memory: 6080 MBytes (6375407616 bytes) (15) Multiprocessors, (192) CUDA Cores/MP: 2880 CUDA Cores GPU Max Clock rate: 1072 MHz (1.07 GHz) Memory Clock rate: 3500 Mhz Memory Bus Width: 384-bit L2 Cache Size: 1572864 bytes Maximum Texture Dimension Size (x,y,z) 1D=(65536), 2D=(65536, 65536), 3D=(4096, 4096, 4096) Maximum Layered 1D Texture Size, (num) layers 1D=(16384), 2048 layers Maximum Layered 2D Texture Size, (num) layers 2D=(16384, 16384), 2048 layers Total amount of constant memory: 65536 bytes Total amount of shared memory per block: 49152 bytes Total number of registers available per block: 65536 Warp size: 32 Maximum number of threads per multiprocessor: 2048 Maximum number of threads per block: 1024 Max dimension size of a thread block (x,y,z): (1024, 1024, 64) Max dimension size of a grid size (x,y,z): (2147483647, 65535, 65535) Maximum memory pitch: 2147483647 bytes Texture alignment: 512 bytes Concurrent copy and kernel execution: Yes with 1 copy engine(s) Run time limit on kernels: No Integrated GPU sharing Host Memory: No Support host page-locked memory mapping: Yes Alignment requirement for Surfaces: Yes Device has ECC support: Disabled Device supports Unified Addressing (UVA): Yes Device PCI Domain ID / Bus ID / location ID: 0 / 1 / 0 Compute Mode: < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) > deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 8.0, CUDA Runtime Version = 8.0, NumDevs = 1, Device0 = GeForce GTX TITAN Black Result = PASS
比對前后兩個cuda版本是否一致,如果不一致,就需要卸載并安裝與本機cuda版本相同的pytorch(當(dāng)然應(yīng)該也可以改本機的cuda版本,只不過相對比較麻煩)
pip3 uninstall pytorch
pip3 install [pytorch-version-link]
打開鏈接,選擇合適版本版本,右鍵復(fù)制鏈接地址,替換上面的pytorch-version-link,執(zhí)行命令就行。
這樣應(yīng)該就可以解決了。
感謝你能夠認(rèn)真閱讀完這篇文章,希望小編分享怎么解決Pytorch 自定義子Module .cuda() tensor失敗問題內(nèi)容對大家有幫助,同時也希望大家多多支持億速云,關(guān)注億速云行業(yè)資訊頻道,遇到問題就找億速云,詳細(xì)的解決方法等著你來學(xué)習(xí)!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。