簡述python&pytorch 隨機種子的實現(xiàn)

隨機數(shù)廣泛應(yīng)用在科學研究, 但是計算機無法產(chǎn)生真正的隨機數(shù), 一般成為偽隨機數(shù). 它的產(chǎn)生過程: 給定一個隨機種子(一個正整數(shù)), 根據(jù)隨機算法和種子產(chǎn)生隨機序列. 給定相同的隨機種子, 計算機產(chǎn)生的隨機數(shù)列是一樣的(這也許是偽隨機的原因).

隨機種子是什么？

隨機種子是針對隨機方法而言的。

隨機方法：常見的隨機方法有 生成隨機數(shù)，以及其他的像 隨機排序 之類的，后者本質(zhì)上也是基于生成隨機數(shù)來實現(xiàn)的。在深度學習中，比較常用的隨機方法的應(yīng)用有：網(wǎng)絡(luò)的隨機初始化，訓(xùn)練集的隨機打亂等。

隨機種子的取值范圍？

可以是任意數(shù)字，如10，1000

python random

下面以python的random函數(shù)為例, 做了一個測試.

當用戶未指定隨機種子, 系統(tǒng)默認隨機生成, 一般與系統(tǒng)當前時間有關(guān).用戶指定隨機種子后, 使用隨機函數(shù)產(chǎn)生的隨機數(shù)可以復(fù)現(xiàn).種子確定后, 每次使用隨機函數(shù)相當于從隨機序列去獲取隨機數(shù), 每次獲取的隨機數(shù)是不同的.

pytorch

使用pytorch復(fù)現(xiàn)效果時, 總是無法做到完全的復(fù)現(xiàn). 同一份代碼運行兩次, 有時結(jié)果差異很大. 這是由于算法中的隨機性導(dǎo)致的. 要想每次獲得的結(jié)果一致, 必須固定住隨機種子. 首先, 我們需要找到算法在哪里使用了隨機性, 再相應(yīng)的固定住隨機種子.

def seed_torch():
	seed = 1024 # 用戶設(shè)定
 # seed = int(time.time()*256)
 # 保存隨機種子
 with open('seed.txt', 'w') as f:
  f.write(str(seed))
 random.seed(seed)
 os.environ['PYTHONHASHSEED'] = str(seed)
 np.random.seed(seed)
 torch.manual_seed(seed)
 torch.cuda.manual_seed(seed)
 torch.cuda.manual_seed_all(seed)
 torch.backends.cudnn.benchmark = False
 torch.backends.cudnn.deterministic = True
seed_torch()

上面的代碼固定了pytorch常用的隨機種子, 但是如果你在預(yù)處理中涉及了隨機性, 也需要固定住.

為了復(fù)現(xiàn)結(jié)果, 我們固定住了隨機種子. 但pytorch訓(xùn)練模型時, 不同的隨機種子會產(chǎn)生不同的結(jié)果. 每次使用固定的隨機種子, 可能錯失好的結(jié)果. 為此, 我們可以每次使用不一樣的隨機種子, 并保存下來

 到此這篇關(guān)于簡述python&pytorch 隨機種子的實現(xiàn)的文章就介紹到這了,更多相關(guān)pytorch 隨機種子內(nèi)容請搜索億速云以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持億速云！