溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

Tensorflow中變量初始化函數(shù)的作用是什么

發(fā)布時(shí)間:2021-06-16 15:54:13 來(lái)源:億速云 閱讀:98 作者:Leah 欄目:開(kāi)發(fā)技術(shù)

這期內(nèi)容當(dāng)中小編將會(huì)給大家?guī)?lái)有關(guān)Tensorflow中變量初始化函數(shù)的作用是什么,文章內(nèi)容豐富且以專(zhuān)業(yè)的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。

Tensorflow 提供了7種不同的初始化函數(shù):

tf.constant_initializer(value) #將變量初始化為給定的常量,初始化一切所提供的值。

假設(shè)在卷積層中,設(shè)置偏執(zhí)項(xiàng)b為0,則寫(xiě)法為:
1. bias_initializer=tf.constant_initializer(0)
2. bias_initializer=tf.zeros_initializer(0)

tf.random_normal_initializer(mean,stddev) #功能是將變量初始化為滿足正太分布的隨機(jī)值,主要參數(shù)(正太分布的均值和標(biāo)準(zhǔn)差),用所給的均值和標(biāo)準(zhǔn)差初始化均勻分布

tf.truncated_normal_initializer(mean,stddev,seed,dtype) #功能:將變量初始化為滿足正太分布的隨機(jī)值,但如果隨機(jī)出來(lái)的值偏離平均值超過(guò)2個(gè)標(biāo)準(zhǔn)差,那么這個(gè)數(shù)將會(huì)被重新隨機(jī)

mean:用于指定均值;stddev用于指定標(biāo)準(zhǔn)差;seed:用于指定隨機(jī)數(shù)種子;dtype:用于指定隨機(jī)數(shù)的數(shù)據(jù)類(lèi)型。
通常只需要設(shè)定一個(gè)標(biāo)準(zhǔn)差stddev這一個(gè)參數(shù)就可以。

tf.random_uniform_initializer(a,b,seed,dtype) #從a到b均勻初始化,將變量初始化為滿足平均分布的隨機(jī)值,主要參數(shù)(最大值,最小值)

tf.uniform_unit_scaling_initializer(factor,seed,dtypr) #將變量初始化為滿足平均分布但不影響輸出數(shù)量級(jí)的隨機(jī)值

max_val=math.sqrt(3/input_size)*factor;
input_size指輸入數(shù)據(jù)的維數(shù),假設(shè)輸入為x,計(jì)算為x*w,則input_size=w.shape[0].
其分布區(qū)間為[-max_val,max_val]

tf.zeros_initializer() #將變量設(shè)置為全0;也可以簡(jiǎn)寫(xiě)為tf.Zeros()

tf.ones_initializer() #將變量設(shè)置為全1;可簡(jiǎn)寫(xiě)為tf.Ones()

上述就是小編為大家分享的Tensorflow中變量初始化函數(shù)的作用是什么了,如果剛好有類(lèi)似的疑惑,不妨參照上述分析進(jìn)行理解。如果想知道更多相關(guān)知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道。

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI