跳躍連接：殘差網(wǎng)絡(luò)使用了跳躍連接，將輸入與輸出相加，將殘差映射為恒等映射。這種設(shè)計(jì)可以使得網(wǎng)絡(luò)更容易學(xué)習(xí)殘差，從而加速收斂和提高性能。
殘差塊：殘差網(wǎng)絡(luò)的基本單元是殘差塊，每個(gè)殘差塊包含多個(gè)卷積層和跳躍連接。這種結(jié)構(gòu)可以有效地學(xué)習(xí)不同層次的特征，并且降低了梯度消失的風(fēng)險(xiǎn)。
深度網(wǎng)絡(luò)：殘差網(wǎng)絡(luò)可以構(gòu)建非常深的網(wǎng)絡(luò)，因?yàn)樘S連接可以幫助梯度傳播更容易地達(dá)到較深的層次，從而實(shí)現(xiàn)更好的性能。
非線性：殘差網(wǎng)絡(luò)中每個(gè)殘差塊都包含非線性激活函數(shù)，例如ReLU，用于增加網(wǎng)絡(luò)的表達(dá)能力。
全局平均池化：在殘差網(wǎng)絡(luò)的末尾通常會(huì)使用全局平均池化層替代傳統(tǒng)的全連接層，這可以減少參數(shù)數(shù)量，降低過擬合的風(fēng)險(xiǎn)，同時(shí)提高模型的泛化能力。
億速云公眾號(hào)
手機(jī)網(wǎng)站二維碼
