pytorch中detach切斷網(wǎng)絡(luò)反傳方式的示例分析

這篇文章給大家分享的是有關(guān)pytorch中detach切斷網(wǎng)絡(luò)反傳方式的示例分析的內(nèi)容。小編覺得挺實(shí)用的，因此分享給大家做個(gè)參考，一起跟隨小編過來看看吧。

pytorch中切斷網(wǎng)絡(luò)反向傳遞的方式最常見的方法就是使用detach來進(jìn)行的。

detach

官方文檔中，對(duì)這個(gè)方法是這么介紹的。

    detach = _add_docstr(_C._TensorBase.detach, r"""
    Returns a new Tensor, detached from the current graph.
    The result will never require gradient.
    .. note::
      Returned Tensor uses the same data tensor as the original one.
      In-place modifications on either of them will be seen, and may trigger
      errors in correctness checks.
    """)

返回一個(gè)新的從當(dāng)前圖中分離的 Variable。

返回的 Variable 永遠(yuǎn)不會(huì)需要梯度

如果 被 detach 的Variable volatile=True， 那么 detach 出來的 volatile 也為 True

還有一個(gè)注意事項(xiàng)，即：返回的 Variable 和 被 detach 的Variable 指向同一個(gè) tensor

import torch
from torch.nn import init
t1 = torch.tensor([1., 2.],requires_grad=True)
t2 = torch.tensor([2., 3.],requires_grad=True)
v3 = t1 + t2
v3_detached = v3.detach()
v3_detached.data.add_(t1) # 修改了 v3_detached Variable中 tensor 的值
print(v3, v3_detached)    # v3 中tensor 的值也會(huì)改變
print(v3.requires_grad,v3_detached.requires_grad)
'''
tensor([4., 7.], grad_fn=<AddBackward0>) tensor([4., 7.])
True False
'''

在pytorch中通過拷貝需要切斷位置前的tensor實(shí)現(xiàn)這個(gè)功能。tensor中拷貝的函數(shù)有兩個(gè)，一個(gè)是clone()，另外一個(gè)是copy_(),clone()相當(dāng)于完全復(fù)制了之前的tensor，他的梯度也會(huì)復(fù)制，而且在反向傳播時(shí)，克隆的樣本和結(jié)果是等價(jià)的，可以簡(jiǎn)單的理解為clone只是給了同一個(gè)tensor不同的代號(hào)，和‘='等價(jià)。所以如果想要生成一個(gè)新的分開的tensor，請(qǐng)使用copy_()。

不過對(duì)于這樣的操作，pytorch中有專門的函數(shù)——detach()。

用戶自己創(chuàng)建的節(jié)點(diǎn)是leaf_node(如圖中的abc三個(gè)節(jié)點(diǎn)),不依賴于其他變量,對(duì)于leaf_node不能進(jìn)行in_place操作.根節(jié)點(diǎn)是計(jì)算圖的最終目標(biāo)(如圖y),通過鏈?zhǔn)椒▌t可以計(jì)算出所有節(jié)點(diǎn)相對(duì)于根節(jié)點(diǎn)的梯度值.這一過程通過調(diào)用root.backward()就可以實(shí)現(xiàn).

因此,detach所做的就是,重新聲明一個(gè)變量,指向原變量的存放位置,但是requires_grad為false.更深入一點(diǎn)的理解是,計(jì)算圖從detach過的變量這里就斷了, 它變成了一個(gè)leaf_node.即使之后重新將它的requires_node置為true,它也不會(huì)具有梯度.

pytorch 梯度

(0.4之后),tensor和variable合并，tensor具有g(shù)rad、grad_fn等屬性；

默認(rèn)創(chuàng)建的tensor，grad默認(rèn)為False, 如果當(dāng)前tensor_grad為None，則不會(huì)向前傳播，如果有其它支路具有g(shù)rad，則只傳播其它支路的grad

# 默認(rèn)創(chuàng)建requires_grad = False的Tensor
x = torch.ones(1)   # create a tensor with requires_grad=False (default)
print(x.requires_grad)
 # out: False
 
 # 創(chuàng)建另一個(gè)Tensor，同樣requires_grad = False
y = torch.ones(1)  # another tensor with requires_grad=False
 # both inputs have requires_grad=False. so does the output
z = x + y
 # 因?yàn)閮蓚€(gè)Tensor x,y，requires_grad=False.都無法實(shí)現(xiàn)自動(dòng)微分，
 # 所以操作（operation）z=x+y后的z也是無法自動(dòng)微分，requires_grad=False
print(z.requires_grad)
 # out: False
 
 # then autograd won't track this computation. let's verify!
 # 因而無法autograd，程序報(bào)錯(cuò)
# z.backward()
 # out：程序報(bào)錯(cuò)：RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn
    
# now create a tensor with requires_grad=True
w = torch.ones(1, requires_grad=True)
print(w.requires_grad)
 # out: True
 
 # add to the previous result that has require_grad=False
 # 因?yàn)閠otal的操作中輸入Tensor w的requires_grad=True，因而操作可以進(jìn)行反向傳播和自動(dòng)求導(dǎo)。
total = w + z
# the total sum now requires grad!
total.requires_grad
# out: True
# autograd can compute the gradients as well
total.backward()
print(w.grad)
#out: tensor([ 1.])
# and no computation is wasted to compute gradients for x, y and z, which don't require grad
# 由于z，x，y的requires_grad=False,所以并沒有計(jì)算三者的梯度
z.grad == x.grad == y.grad == None
# True

nn.Paramter

import torch.nn.functional as F
# With square kernels and equal stride
filters = torch.randn(8,4,3,3)
weiths = torch.nn.Parameter(torch.randn(8,4,3,3))
inputs = torch.randn(1,4,5,5)
out = F.conv2d(inputs, weiths, stride=2,padding=1)
print(out.shape)
con2d = torch.nn.Conv2d(4,8,3,stride=2,padding=1)
out_2 = con2d(inputs)
print(out_2.shape)

補(bǔ)充：Pytorch-detach()用法

目的：

神經(jīng)網(wǎng)絡(luò)的訓(xùn)練有時(shí)候可能希望保持一部分的網(wǎng)絡(luò)參數(shù)不變，只對(duì)其中一部分的參數(shù)進(jìn)行調(diào)整。

或者訓(xùn)練部分分支網(wǎng)絡(luò)，并不讓其梯度對(duì)主網(wǎng)絡(luò)的梯度造成影響.這時(shí)候我們就需要使用detach()函數(shù)來切斷一些分支的反向傳播.

1 tensor.detach()

返回一個(gè)新的tensor，從當(dāng)前計(jì)算圖中分離下來。但是仍指向原變量的存放位置，不同之處只是requirse_grad為false.得到的這個(gè)tensir永遠(yuǎn)不需要計(jì)算器梯度，不具有g(shù)rad.

即使之后重新將它的requires_grad置為true,它也不會(huì)具有梯度grad.這樣我們就會(huì)繼續(xù)使用這個(gè)新的tensor進(jìn)行計(jì)算，后面當(dāng)我們進(jìn)行反向傳播時(shí)，到該調(diào)用detach()的tensor就會(huì)停止，不能再繼續(xù)向前進(jìn)行傳播.

注意：

使用detach返回的tensor和原始的tensor共同一個(gè)內(nèi)存，即一個(gè)修改另一個(gè)也會(huì)跟著改變。

比如正常的例子是：

import torch 
a = torch.tensor([1, 2, 3.], requires_grad=True)
print(a)
print(a.grad)
out = a.sigmoid()
 
out.sum().backward()
print(a.grad)

輸出

tensor([1., 2., 3.], requires_grad=True)

None

tensor([0.1966, 0.1050, 0.0452])

1.1 當(dāng)使用detach()分離tensor但是沒有更改這個(gè)tensor時(shí)，并不會(huì)影響backward():

import torch 
a = torch.tensor([1, 2, 3.], requires_grad=True)
print(a.grad)
out = a.sigmoid()
print(out)
 
#添加detach(),c的requires_grad為False
c = out.detach()
print(c)
 
#這時(shí)候沒有對(duì)c進(jìn)行更改，所以并不會(huì)影響backward()
out.sum().backward()
print(a.grad)
 
'''返回：
None
tensor([0.7311, 0.8808, 0.9526], grad_fn=<SigmoidBackward>)
tensor([0.7311, 0.8808, 0.9526])
tensor([0.1966, 0.1050, 0.0452])
'''

感謝各位的閱讀！關(guān)于“pytorch中detach切斷網(wǎng)絡(luò)反傳方式的示例分析”這篇文章就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，讓大家可以學(xué)到更多知識(shí)，如果覺得文章不錯(cuò)，可以把它分享出去讓更多的人看到吧！