一. valid卷積的梯度
我們分兩種不同的情況討論valid卷積的梯度：第一種情況，在已知卷積核的情況下，對(duì)未知張量求導(dǎo)(即對(duì)張量中每一個(gè)變量求導(dǎo))；第二種情況，在已知張量的情況下，對(duì)未知卷積核求導(dǎo)(即對(duì)卷積核中每一個(gè)變量求導(dǎo))
1.已知卷積核，對(duì)未知張量求導(dǎo)
我們用一個(gè)簡(jiǎn)單的例子理解valid卷積的梯度反向傳播。假設(shè)有一個(gè)3x3的未知張量x，以及已知的2x2的卷積核K
Tensorflow提供函數(shù)tf.nn.conv2d_backprop_input實(shí)現(xiàn)了valid卷積中對(duì)未知變量的求導(dǎo)，以上示例對(duì)應(yīng)的代碼如下：
重慶分公司
重慶分公司
import tensorflow as tf
# 卷積核
kernel=tf.constant(
[
[[[3]],[[4]]],
[[[5]],[[6]]]
]
,tf.float32
)
# 某一函數(shù)針對(duì)sigma的導(dǎo)數(shù)
out=tf.constant(
[
[
[[-1],[1]],
[[2],[-2]]
]
]
,tf.float32
)
# 針對(duì)未知變量的導(dǎo)數(shù)的方向計(jì)算
inputValue=tf.nn.conv2d_backprop_input((1,3,3,1),kernel,out,[1,1,1,1],'VALID')
session=tf.Session()
print(session.run(inputValue))
[[[[ -3.]
[ -1.]
[ 4.]]
[[ 1.]
[ 1.]
[ -2.]]
[[ 10.]
[ 2.]
[-12.]]]]
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。
