這篇文章主要介紹了python3爬蟲使用多線程運(yùn)算是不是會比較快，具有一定借鑒價(jià)值，需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。
多線程存在GIL（global interpret lock）。為了實(shí)現(xiàn)多線程功能，程序把線程鎖住，然后鎖住了之后，只有一個(gè)線程運(yùn)算。Python只能夠讓線程在同一時(shí)間運(yùn)算一個(gè)東西。在不停切換，看起來是多線程的。但實(shí)際上不是。
重慶分公司
重慶分公司
import threading
from queue import Queue
import copy
import time
def job(lists, q):
res = sum(lists)
q.put(res)
def multi_theading(lists):
q = Queue()
threads = []
for i in range(4):
t = threading.Thread(target=job, args=(copy.copy(lists), q),
name = 'T%i'%i)
t.start()
threads.append(t)
[t.join() for i in threads]
total = 0
for _ in range(4):
total += q.get()
print(total)
def normal(lists):
# 完全不用多線程
total = sum(lists)
print(total)
if __name__ == '__main__':
lists = list(range(1000000))
s_t = time.time()
normal(lists*4)
print('Normal : ', time.time() - s_t)
s_t = time.time()
multi_theading(lists)
print('multi_threading : ', time.time() - s_t)運(yùn)行結(jié)果
1999998000000 Normal : 0.1705458164215088 1999998000000 multi_threading : 0.14860320091247559
不用多線程是 0.1705秒；用了多線程僅僅是稍微快了一點(diǎn)。
感謝你能夠認(rèn)真閱讀完這篇文章，希望小編分享python3爬蟲使用多線程運(yùn)算是不是會比較快內(nèi)容對大家有幫助，同時(shí)也希望大家多多支持創(chuàng)新互聯(lián)網(wǎng)站建設(shè)公司，，關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道，遇到問題就找創(chuàng)新互聯(lián)網(wǎng)站建設(shè)公司，，詳細(xì)的解決方法等著你來學(xué)習(xí)!
