這篇文章主要為大家展示了“如何解決Tensorflow內(nèi)存泄露的問(wèn)題”，內(nèi)容簡(jiǎn)而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“如何解決Tensorflow內(nèi)存泄露的問(wèn)題”這篇文章吧。

創(chuàng)新互聯(lián)主營(yíng)麻山網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營(yíng)網(wǎng)站建設(shè)方案,重慶APP開(kāi)發(fā),麻山h5小程序設(shè)計(jì)搭建,麻山網(wǎng)站營(yíng)銷(xiāo)推廣歡迎麻山等地區(qū)企業(yè)咨詢(xún)

使用tensorflow進(jìn)行編程時(shí)，經(jīng)常遇到操作不當(dāng)，帶來(lái)的內(nèi)存泄露問(wèn)題，這里有一個(gè)可以幫助debug問(wèn)題所在方法：

https://stackoverflow.com/questions/51175837/tensorflow-runs-out-of-memory-while-computing-how-to-find-memory-leaks/51183870#51183870

使用tf.Graph.finalize()把運(yùn)算圖變成只讀的，從而對(duì)圖的修改都會(huì)報(bào)錯(cuò)，從而找到內(nèi)存泄露的定點(diǎn)。

目前我出現(xiàn)過(guò)內(nèi)存泄露問(wèn)題的有兩處：

1.

session和graph沒(méi)有釋放內(nèi)存。按照資料的說(shuō)法，使用了with關(guān)鍵字可以在session異常退出時(shí)也釋放內(nèi)存，否則要用session.close()關(guān)閉session。代碼如下：

with tf.Session() as session:
  #codes

#一般使用with以后就會(huì)釋放內(nèi)存，否則運(yùn)行如下釋放
session.close()
del session

另一方面，我是在session中加載graph（訓(xùn)練好的模型），導(dǎo)致每次關(guān)閉程序再運(yùn)行，graph出現(xiàn)重復(fù)加載的現(xiàn)象。錯(cuò)誤代碼示例：

with tf.Seesion() as session:
  # 在session內(nèi)部加載保存好的graph
  saver = tf.train.import_meta_graph('./CNN_cracks.meta')
  saver.restore(session, "./CNN_cracks")
  # codes

此處，在一次運(yùn)行session時(shí)會(huì)加載一次graph，一次運(yùn)行的時(shí)候沒(méi)問(wèn)題，但多次運(yùn)行（調(diào)試時(shí)），每次graph都會(huì)加載到內(nèi)存而不被釋放，因而造成內(nèi)存泄露。

正確的做法如下：

# 用with新建一個(gè)graph，這樣在運(yùn)行完以及異常退出時(shí)就會(huì)釋放內(nèi)存
graph = tf.Gragh()
with graph.as_default():
  saver = tf.train.import_meta_graph('./CNN_cracks.meta')

with tf.Session(graph=graph) as session:
  saver.restore(session, "./CNN_cracks")

2.

一些tensorflow的運(yùn)算似乎也會(huì)修改圖，原因未明。所以在在訓(xùn)練里面把所有屬于tensorflow的運(yùn)算都寫(xiě)進(jìn)去，運(yùn)行session.run返回的只能是只讀。

##錯(cuò)誤代碼

#訓(xùn)練
graph = tf.Graph()
with graph.as_default():
  #codes
  predict = tf.nn.softmax(model(data))

#預(yù)測(cè)，這里訓(xùn)練文件與預(yù)測(cè)文件是分離的
with tf.Session(graph=graph) as session:
  #codes
  predict = session.run(predict, feed_dict={data: block})
  prediction = tf.argmax(predict, -1) #這里會(huì)對(duì)圖進(jìn)行修改

##正確代碼

#訓(xùn)練
graph = tf.Graph()
with graph.as_default():
  #codes
  predict = tf.argmax(tf.nn.softmax(model(data)), -1)

#預(yù)測(cè)
with tf.Session(graph=graph) as session:
  #codes
  prediction = session.run(predict, feed_dict={data: block})

以上是“如何解決Tensorflow內(nèi)存泄露的問(wèn)題”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計(jì)公司行業(yè)資訊頻道！

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無(wú)理由+7*72小時(shí)售后在線(xiàn)，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性?xún)r(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專(zhuān)為企業(yè)上云打造定制，能夠滿(mǎn)足用戶(hù)豐富、多元化的應(yīng)用場(chǎng)景需求。

本文標(biāo)題：如何解決Tensorflow內(nèi)存泄露的問(wèn)題-創(chuàng)新互聯(lián)
文章來(lái)源：http://weahome.cn/article/hogdg.html