您好,登錄后才能下訂單哦!
這篇文章主要介紹了Pytorch如何根據(jù)layers的name實現(xiàn)凍結訓練方式,具有一定借鑒價值,感興趣的朋友可以參考下,希望大家閱讀完這篇文章之后大有收獲,下面讓小編帶著大家一起了解一下。
使用model.named_parameters()可以輕松搞定,
model.cuda() # ######################################## Froze some layers to fine-turn the model ######################## for name, param in model.named_parameters(): # 帶有參數(shù)名的模型的各個層包含的參數(shù)遍歷 if 'out' or 'merge' or 'before_regress' in name: # 判斷參數(shù)名字符串中是否包含某些關鍵字 continue param.requires_grad = False # ############################################################################################################# optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()), lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)
感謝你能夠認真閱讀完這篇文章,希望小編分享的“Pytorch如何根據(jù)layers的name實現(xiàn)凍結訓練方式”這篇文章對大家有幫助,同時也希望大家多多支持億速云,關注億速云行業(yè)資訊頻道,更多相關知識等著你來學習!
免責聲明:本站發(fā)布的內容(圖片、視頻和文字)以原創(chuàng)、轉載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權內容。