GANs是如何創(chuàng)造出高分辨率的圖像的

GANs是如何創(chuàng)造出高分辨率的圖像的，針對這個(gè)問題，這篇文章詳細(xì)介紹了相對應(yīng)的分析和解答，希望可以幫助更多想解決這個(gè)問題的小伙伴找到更簡單易行的方法。

下面主要介紹DCGAN的適應(yīng)漸進(jìn)式增長創(chuàng)建高分辨率圖像的思路

深度卷積生成對抗網(wǎng)絡(luò)是2020年最精致的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)。生成模型可以追溯到60年代，但是Ian Goodfellow在2014年創(chuàng)造的GAN，使得生成模型跟那個(gè)廣泛的使用，這對于深度學(xué)習(xí)的未來有著前所未有的價(jià)值。

GAN知識要點(diǎn)

生成器根據(jù)噪聲向量重建樣本，該樣本應(yīng)與訓(xùn)練分布不可區(qū)分

生成器是主要的目標(biāo)，一旦我們對它的結(jié)果滿意，就可以丟棄鑒別器

由于這兩個(gè)神經(jīng)網(wǎng)絡(luò)都是可微的，我們可以使用它們的梯度來引導(dǎo)它們朝著正確的方向

主要思路

生成器和鑒別器都以4×4像素開始。順便說一下，這是由Ian Goodfellow提出的。

漸進(jìn)增長要求在訓(xùn)練過程中同時(shí)擴(kuò)展生成器和鑒別器的能力。層的增量添加允許模型有效地學(xué)習(xí)粗層次的細(xì)節(jié)，并在之后為雙方學(xué)習(xí)更精細(xì)的細(xì)節(jié)。

這種增量性質(zhì)允許訓(xùn)練首先發(fā)現(xiàn)圖像分布的大規(guī)模結(jié)構(gòu)，然后將注意力轉(zhuǎn)移到越來越精細(xì)的尺度細(xì)節(jié)上，而不必同時(shí)學(xué)習(xí)所有尺度。

Progressive Growing of GANs for Improved Quality, Stability, and Variation, 2017.

這種增量模式利用了一種稱為跳躍連接的東西來連接新的塊到鑒別器的輸入。此外，一個(gè)加權(quán)參數(shù)alpha控制新塊的影響。Alpha從0開始，隨著訓(xùn)練的進(jìn)行線性增加到1。

對生成器的更改

生成器必須添加一個(gè)新的卷積層塊，輸出一個(gè)32x32的圖像，在使用最近鄰插值之前，將其與16x16層的輸出連接起來。

許多GAN發(fā)生器使用轉(zhuǎn)置的卷積層對圖像進(jìn)行上采樣。

對鑒別器的更改

鑒別器必須通過添加新的卷積塊和跳過連接來適應(yīng)支持32x32的圖像大小。然后輸出圖像使用平均池下行采樣，以便它可以作為現(xiàn)有的16x16塊的輸入。

同樣，大多數(shù)GANs使用步長2來獲得相同的輸出格式。

小批量的鑒別

與批處理歸一化類似，研究人員已經(jīng)提出了一種在兩個(gè)網(wǎng)絡(luò)中實(shí)現(xiàn)層歸一化的方法。這被稱為小批量鑒別。由于GAN傾向于僅捕獲訓(xùn)練數(shù)據(jù)中發(fā)現(xiàn)的變異的一個(gè)子集，因此此方法可以在一定程度上解決這個(gè)問題 。讓我們看看這是如何做到的

1. 首先我們計(jì)算每個(gè)小批量中每個(gè)特征的標(biāo)準(zhǔn)差。

2. 然后我們對這些估計(jì)的總體特征進(jìn)行平均，得到一個(gè)單一的值

3. 該值連接到小批上的所有空間位置，產(chǎn)生一個(gè)額外的特征映射。

關(guān)于GANs是如何創(chuàng)造出高分辨率的圖像的問題的解答就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，如果你還有很多疑惑沒有解開，可以關(guān)注億速云行業(yè)資訊頻道了解更多相關(guān)知識。