1）首先你要明白爬蟲怎樣工作。
創(chuàng)新互聯(lián)主營新化網(wǎng)站建設的網(wǎng)絡公司,主營網(wǎng)站建設方案,重慶APP軟件開發(fā),新化h5成都微信小程序搭建,新化網(wǎng)站營銷推廣歡迎新化等地區(qū)企業(yè)咨詢
想象你是一只蜘蛛，現(xiàn)在你被放到了互聯(lián)“網(wǎng)”上。那么，你需要把所有的網(wǎng)頁都看一遍。怎么辦呢？沒問題呀，你就隨便從某個地方開始，比如說人民日報的首頁，這個叫initial pages，用$表示吧。
在人民日報的首頁，你看到那個頁面引向的各種鏈接。于是你很開心地從爬到了“國內新聞”那個頁面。太好了，這樣你就已經(jīng)爬完了倆頁面（首頁和國內新聞）！暫且不用管爬下來的頁面怎么處理的，你就想象你把這個頁面完完整整抄成了個html放到了你身上。
突然你發(fā)現(xiàn)， 在國內新聞這個頁面上，有一個鏈接鏈回“首頁”。作為一只聰明的蜘蛛，你肯定知道你不用爬回去的吧，因為你已經(jīng)看過了啊。所以，你需要用你的腦子，存下你已經(jīng)看過的頁面地址。這樣，每次看到一個可能需要爬的新鏈接，你就先查查你腦子里是不是已經(jīng)去過這個頁面地址。如果去過，那就別去了。
好的，理論上如果所有的頁面可以從initial page達到的話，那么可以證明你一定可以爬完所有的網(wǎng)頁。
那么在python里怎么實現(xiàn)呢？
很簡單
import Queue
initial_page = "初始化頁"
url_queue = Queue.Queue()
seen = set()
seen.insert(initial_page)
url_queue.put(initial_page)
while(True): #一直進行直到?？菔癄€
if url_queue.size()0:
current_url = url_queue.get() #拿出隊例中第一個的url
store(current_url) #把這個url代表的網(wǎng)頁存儲好
for next_url in extract_urls(current_url): #提取把這個url里鏈向的url
if next_url not in seen:
seen.put(next_url)
url_queue.put(next_url)
else:
break
寫得已經(jīng)很偽代碼了。
所有的爬蟲的backbone都在這里，下面分析一下為什么爬蟲事實上是個非常復雜的東西——搜索引擎公司通常有一整個團隊來維護和開發(fā)。
2）效率
如果你直接加工一下上面的代碼直接運行的話，你需要一整年才能爬下整個豆瓣的內容。更別說Google這樣的搜索引擎需要爬下全網(wǎng)的內容了。
問題出在哪呢？需要爬的網(wǎng)頁實在太多太多了，而上面的代碼太慢太慢了。設想全網(wǎng)有N個網(wǎng)站，那么分析一下判重的復雜度就是N*log(N)，因為所有網(wǎng)頁要遍歷一次，而每次判重用set的話需要log(N)的復雜度。OK，OK，我知道python的set實現(xiàn)是hash——不過這樣還是太慢了，至少內存使用效率不高。
通常的判重做法是怎樣呢？Bloom Filter. 簡單講它仍然是一種hash的方法，但是它的特點是，它可以使用固定的內存（不隨url的數(shù)量而增長）以O(1)的效率判定url是否已經(jīng)在set中?？上煜聸]有白吃的午餐，它的唯一問題在于，如果這個url不在set中，BF可以100%確定這個url沒有看過。但是如果這個url在set中，它會告訴你：這個url應該已經(jīng)出現(xiàn)過，不過我有2%的不確定性。注意這里的不確定性在你分配的內存足夠大的時候，可以變得很小很少。一個簡單的教程:Bloom Filters by Example
注意到這個特點，url如果被看過，那么可能以小概率重復看一看（沒關系，多看看不會累死）。但是如果沒被看過，一定會被看一下（這個很重要，不然我們就要漏掉一些網(wǎng)頁了?。?。 [IMPORTANT: 此段有問題，請暫時略過]
好，現(xiàn)在已經(jīng)接近處理判重最快的方法了。另外一個瓶頸——你只有一臺機器。不管你的帶寬有多大，只要你的機器下載網(wǎng)頁的速度是瓶頸的話，那么你只有加快這個速度。用一臺機子不夠的話——用很多臺吧！當然，我們假設每臺機子都已經(jīng)進了最大的效率——使用多線程（python的話，多進程吧）。
3）集群化抓取
爬取豆瓣的時候，我總共用了100多臺機器晝夜不停地運行了一個月。想象如果只用一臺機子你就得運行100個月了...
那么，假設你現(xiàn)在有100臺機器可以用，怎么用python實現(xiàn)一個分布式的爬取算法呢？
我們把這100臺中的99臺運算能力較小的機器叫作slave，另外一臺較大的機器叫作master，那么回顧上面代碼中的url_queue，如果我們能把這個queue放到這臺master機器上，所有的slave都可以通過網(wǎng)絡跟master聯(lián)通，每當一個slave完成下載一個網(wǎng)頁，就向master請求一個新的網(wǎng)頁來抓取。而每次slave新抓到一個網(wǎng)頁，就把這個網(wǎng)頁上所有的鏈接送到master的queue里去。同樣，bloom filter也放到master上，但是現(xiàn)在master只發(fā)送確定沒有被訪問過的url給slave。Bloom Filter放到master的內存里，而被訪問過的url放到運行在master上的Redis里，這樣保證所有操作都是O(1)。（至少平攤是O(1)，Redis的訪問效率見:LINSERT – Redis)
考慮如何用python實現(xiàn)：
在各臺slave上裝好scrapy，那么各臺機子就變成了一臺有抓取能力的slave，在master上裝好Redis和rq用作分布式隊列。
代碼于是寫成
#slave.py
current_url = request_from_master()
to_send = []
for next_url in extract_urls(current_url):
to_send.append(next_url)
store(current_url);
send_to_master(to_send)
#master.py
distributed_queue = DistributedQueue()
bf = BloomFilter()
initial_pages = ""
while(True):
if request == 'GET':
if distributed_queue.size()0:
send(distributed_queue.get())
else:
break
elif request == 'POST':
bf.put(request.url)
好的，其實你能想到，有人已經(jīng)給你寫好了你需要的：darkrho/scrapy-redis · GitHub
4）展望及后處理
雖然上面用很多“簡單”，但是真正要實現(xiàn)一個商業(yè)規(guī)模可用的爬蟲并不是一件容易的事。上面的代碼用來爬一個整體的網(wǎng)站幾乎沒有太大的問題。
但是如果附加上你需要這些后續(xù)處理，比如
有效地存儲（數(shù)據(jù)庫應該怎樣安排）
有效地判重（這里指網(wǎng)頁判重，咱可不想把人民日報和抄襲它的大民日報都爬一遍）
有效地信息抽取（比如怎么樣抽取出網(wǎng)頁上所有的地址抽取出來，“朝陽區(qū)奮進路中華道”），搜索引擎通常不需要存儲所有的信息，比如圖片我存來干嘛...
及時更新（預測這個網(wǎng)頁多久會更新一次）
如你所想，這里每一個點都可以供很多研究者十數(shù)年的研究。雖然如此，
“路漫漫其修遠兮,吾將上下而求索”。
所以，不要問怎么入門，直接上路就好了：）
1、基礎書籍：《Python編程》
豆瓣評分：9.1分
推薦指數(shù)：★★★★★
推薦理由：架構非常漂亮，針對所有層次的Python讀者而作的Python入門書，完美描繪了Python的“景象”，沒有教科書式的分章節(jié)闡釋語法，沒有太復雜的概念延伸。
適讀群體：零基礎、小白讀者。
2、入門秘籍：《零基礎入門學習Python》
豆瓣評分：8.7分
推薦指數(shù)：★★★★★
推薦理由：與B站小甲魚視頻配套書籍，適合小白入門的好書，不完全局限于Python，其他編程入門也非常適合，由淺入深，在普及概念的同時，逐漸加深大家對Python的認知。
適讀群體：零基礎、剛入門的讀者。
3、經(jīng)典好書：《利用Python進行數(shù)據(jù)分析》
豆瓣評分：8.6分
推薦指數(shù)：★★★★★
推薦理由：書中列舉了大量具體的科學計算及數(shù)據(jù)分析的實踐案例，被譽為“未來幾年Python領域技術計算權威指南”。你將學會靈活運用各種Python庫（如：NumPy、pandas、matplotlib、IPython等），來高效解決各種數(shù)據(jù)分析問題。
適讀群體：剛接觸Python的分析人員、剛接觸科學計算的Python程序員等。
4、實用寶典：《Python網(wǎng)絡數(shù)據(jù)采集》
豆瓣評分：7.7分
推薦指數(shù)：★★★★☆
推薦理由：本書使用簡單易懂的強大機器語言Python，從原理到實戰(zhàn)，介紹了如何用Python從網(wǎng)絡服務器請求信息、如何對服務器的響應進行基本處理、如何以自動化手段與網(wǎng)站進行交互等網(wǎng)絡數(shù)據(jù)采集基本原理，以及如何使用網(wǎng)絡爬蟲測試網(wǎng)站、自動化處理、如何通過更多的方式接入網(wǎng)絡等實際操作。
適讀群體：對Python網(wǎng)絡數(shù)據(jù)采集、網(wǎng)站爬蟲感興趣的朋友。
5、興趣讀物：《Python數(shù)據(jù)挖掘入門與實踐》
豆瓣評分：7.7分
推薦指數(shù)：★★★★☆
推薦理由：本書為數(shù)據(jù)挖掘入門讀物，作者本身具備為多個行業(yè)提供數(shù)據(jù)挖掘和數(shù)據(jù)分析解決方案的豐富經(jīng)驗，循序漸進，帶你輕松踏上數(shù)據(jù)挖掘之旅。
適讀群體：對Python數(shù)據(jù)挖掘感興趣者。
6、實戰(zhàn)指南《Python數(shù)據(jù)可視化編程實戰(zhàn)》
豆瓣評分：7.2分
推薦指數(shù)：★★★★☆
推薦理由：本書介紹了Python數(shù)據(jù)可視化最流行的庫，用60+種方法呈現(xiàn)出美觀的數(shù)據(jù)可視化效果，讓讀者從頭開始了解數(shù)據(jù)、數(shù)據(jù)格式、數(shù)據(jù)可視化，并學會使用Python可視化數(shù)據(jù)。
適讀群體：了解Python基礎，對數(shù)據(jù)可視化感興趣的讀者。
7、爬蟲至寶《Python 3網(wǎng)絡爬蟲開發(fā)實戰(zhàn)》
豆瓣評分：9.0分
推薦指數(shù)：★★★★★
推薦理由：作者專業(yè)水平極高，從原理到開發(fā)實戰(zhàn)，內容詳盡且涉及面廣，通過多個案例介紹了不同場景下如何實現(xiàn)數(shù)據(jù)爬取，通篇干貨，無一點水分。
適讀群體：適合有一定Python基礎，或有開發(fā)經(jīng)驗想轉爬蟲方向的讀者。
驗證碼（CAPTCHA）全稱為全自動區(qū)分計算機和人類的公開圖靈測試（Completely Automated Public Turing test to tell Computersand Humans Apart）。從其全稱可以看出，驗證碼用于測試用戶是真實的人類還是計算機機器人。
1.獲得驗證碼圖片
每次加載注冊網(wǎng)頁都會顯示不同的驗證驗圖像，為了了解表單需要哪些參數(shù)，我們可以復用上一章編寫的parse_form()函數(shù)。
import cookielib,urllib2,pprint import form REGISTER_URL = '' cj=cookielib.CookieJar() opener=urllib2.build_opener(urllib2.HTTPCookieProcessor(cj)) html=opener.open(REGISTER_URL).read() form=form.parse_form(html) pprint.pprint(form)
{'_formkey': 'a67cbc84-f291-4ecd-9c2c-93937faca2e2', '_formname': 'register', '_next': '/places/default/index', 'email': '', 'first_name': '', 'last_name': '', 'password': '', 'password_two': '', 'recaptcha_response_field': None} 123456789101112131415161718
上面recaptcha_response_field是存儲驗證碼的值，其值可以用Pillow從驗證碼圖像獲取出來。先安裝pip install Pillow，其它安裝Pillow的方法可以參考 。Pillow提價了一個便捷的Image類，其中包含了很多用于處理驗證碼圖像的高級方法。下面的函數(shù)使用注冊頁的HTML作為輸入?yún)?shù)，返回包含驗證碼圖像的Image對象。
import lxml.html from io import BytesIO from PIL import Image tree=lxml.html.fromstring(html) print tree
Element html at 0x7f8b006ba890 img_data_all=tree.cssselect('div#recaptcha img')[0].get('src') print img_data_all
data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAQAAAABgCAIAAAB9kzvfAACAtklEQVR4nO29Z5gcZ5ku3F2dc865
...
rkJggg== img_data=img_data_all.partition(',')[2] print img_data
iVBORw0KGgoAAAANSUhEUgAAAQAAAABgCAIAAAB9kzvfAACAtklEQVR4nO29Z5gcZ5ku3F2dc865
...
rkJggg== binary_img_data=img_data.decode('base64') file_like=BytesIO(binary_img_data) print file_like
_io.BytesIO object at 0x7f8aff6736b0 img=Image.open(file_like) print img
PIL.PngImagePlugin.PngImageFile image mode=RGB size=256x96 at 0x7F8AFF5FAC90 12345678910111213141516171819202122232425
在本例中，這是一張進行了Base64編碼的PNG圖像，這種格式會使用ASCII編碼表示二進制數(shù)據(jù)。我們可以通過在第一個逗號處分割的方法移除該前綴。然后，使用Base64解碼圖像數(shù)據(jù)，回到最初的二進制格式。要想加載圖像，PIL需要一個類似文件的接口，所以在傳給Image類之前，我們以使用了BytesIO對這個二進制數(shù)據(jù)進行了封裝。
完整代碼:
# -*- coding: utf-8 -*-form.pyimport urllibimport urllib2import cookielibfrom io import BytesIOimport lxml.htmlfrom PIL import Image
REGISTER_URL = ''#REGISTER_URL = ''def extract_image(html):
tree = lxml.html.fromstring(html)
img_data = tree.cssselect('div#recaptcha img')[0].get('src') # remove data:image/png;base64, header
img_data = img_data.partition(',')[-1] #open('test_.png', 'wb').write(data.decode('base64'))
binary_img_data = img_data.decode('base64')
file_like = BytesIO(binary_img_data)
img = Image.open(file_like) #img.save('test.png')
return imgdef parse_form(html):
"""extract all input properties from the form
"""
tree = lxml.html.fromstring(html)
data = {} for e in tree.cssselect('form input'): if e.get('name'):
data[e.get('name')] = e.get('value') return datadef register(first_name, last_name, email, password, captcha_fn):
cj = cookielib.CookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
html = opener.open(REGISTER_URL).read()
form = parse_form(html)
form['first_name'] = first_name
form['last_name'] = last_name
form['email'] = email
form['password'] = form['password_two'] = password
img = extract_image(html)#
captcha = captcha_fn(img)#
form['recaptcha_response_field'] = captcha
encoded_data = urllib.urlencode(form)
request = urllib2.Request(REGISTER_URL, encoded_data)
response = opener.open(request)
success = '/user/register' not in response.geturl() #success = '/places/default/user/register' not in response.geturl()
return success12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152
2.光學字符識別驗證碼
光學字符識別（Optical Character Recognition, OCR）用于圖像中抽取文本。本節(jié)中，我們將使用開源的Tesseract OCR引擎，該引擎最初由惠普公司開發(fā)的，目前由Google主導。Tesseract的安裝說明可以從 獲取。然后可以使用pip安裝其Python封裝版本pytesseractpip install pytesseract。
下面我們用光學字符識別圖像驗證碼：
import pytesseract import form img=form.extract_image(html) pytesseract.image_to_string(img)'' 123456
如果直接把驗證碼原始圖像傳給pytesseract，一般不能解析出來。這是因為Tesseract是抽取更加典型的文本，比如背景統(tǒng)一的書頁。下面我們進行去除背景噪音，只保留文本部分。驗證碼文本一般都是黑色的，背景則會更加明亮，所以我們可以通過檢查是否為黑色將文本分離出來，該處理過程又被稱為閾值化。
img.save('2captcha_1original.png') gray=img.convert('L') gray.save('2captcha_2gray.png') bw=gray.point(lambda x:0 if x1 else 255,'1') bw.save('2captcha_3thresholded.png') 1234567
這里只有閾值小于1的像素（全黑）都會保留下來，分別得到三張圖像：原始驗證碼圖像、轉換后的灰度圖和閾值化處理后的黑白圖像。最后我們將閾值化處理后黑白圖像再進行Tesseract處理，驗證碼中的文字已經(jīng)被成功抽取出來了。
pytesseract.image_to_string(bw)'language' import Image,pytesseract img=Image.open('2captcha_3thresholded.png') pytesseract.image_to_string(img)'language' 123456789
我們通過示例樣本測試，100張驗證碼能正確識別出90張。
import ocr ocr.test_samples()
Accuracy: 90/100 1234
下面是注冊賬號完整代碼：
# -*- coding: utf-8 -*-import csvimport stringfrom PIL import Imageimport pytesseractfrom form import registerdef main():
print register('Wu1', 'Being1', 'Wu_Being001@qq.com', 'example', ocr)def ocr(img):
# threshold the image to ignore background and keep text
gray = img.convert('L') #gray.save('captcha_greyscale.png')
bw = gray.point(lambda x: 0 if x 1 else 255, '1') #bw.save('captcha_threshold.png')
word = pytesseract.image_to_string(bw)
ascii_word = ''.join(c for c in word if c in string.letters).lower() return ascii_wordif __name__ == '__main__':
main()1234567891011121314151617181920212223
我們可以進一步改善OCR性能：
- 實驗不同閾值
- 腐蝕閾值文本，突出字符形狀
- 調整圖像大小
- 根據(jù)驗證碼字體訓練ORC工具
- 限制結果為字典單詞
現(xiàn)在之所以有這么多的小伙伴熱衷于爬蟲技術，無外乎是因為爬蟲可以幫我們做很多事情，比如搜索引擎、采集數(shù)據(jù)、廣告過濾等，以Python為例，Python爬蟲可以用于數(shù)據(jù)分析，在數(shù)據(jù)抓取方面發(fā)揮巨大的作用。
但是這并不意味著單純掌握一門Python語言，就對爬蟲技術觸類旁通，要學習的知識和規(guī)范還有喜很多，包括但不僅限于HTML 知識、HTTP/HTTPS 協(xié)議的基本知識、正則表達式、數(shù)據(jù)庫知識，常用抓包工具的使用、爬蟲框架的使用等。而且涉及到大規(guī)模爬蟲，還需要了解分布式的概念、消息隊列、常用的數(shù)據(jù)結構和算法、緩存，甚至還包括機器學習的應用，大規(guī)模的系統(tǒng)背后都是靠很多技術來支撐的。
零基礎如何學爬蟲技術？對于迷茫的初學者來說，爬蟲技術起步學習階段，最重要的就是明確學習路徑，找準學習方法，唯有如此，在良好的學習習慣督促下，后期的系統(tǒng)學習才會事半功倍，游刃有余。
用Python寫爬蟲，首先需要會Python，把基礎語法搞懂，知道怎么使用函數(shù)、類和常用的數(shù)據(jù)結構如list、dict中的常用方法就算基本入門。作為入門爬蟲來說，需要了解 HTTP協(xié)議的基本原理，雖然 HTTP 規(guī)范用一本書都寫不完，但深入的內容可以放以后慢慢去看，理論與實踐相結合后期學習才會越來越輕松。關于爬蟲學習的具體步驟，我大概羅列了以下幾大部分，大家可以參考：
網(wǎng)絡爬蟲基礎知識:
爬蟲的定義
爬蟲的作用
Http協(xié)議
基本抓包工具(Fiddler)使用
Python模塊實現(xiàn)爬蟲：
urllib3、requests、lxml、bs4 模塊大體作用講解
使用requests模塊 get 方式獲取靜態(tài)頁面數(shù)據(jù)
使用requests模塊 post 方式獲取靜態(tài)頁面數(shù)據(jù)
使用requests模塊獲取 ajax 動態(tài)頁面數(shù)據(jù)
使用requests模塊模擬登錄網(wǎng)站
使用Tesseract進行驗證碼識別
Scrapy框架與Scrapy-Redis：
Scrapy 爬蟲框架大體說明
Scrapy spider 類
Scrapy item 及 pipeline
Scrapy CrawlSpider 類
通過Scrapy-Redis 實現(xiàn)分布式爬蟲
借助自動化測試工具和瀏覽器爬取數(shù)據(jù)：
Selenium + PhantomJS 說明及簡單實例
Selenium + PhantomJS 實現(xiàn)網(wǎng)站登錄
Selenium + PhantomJS 實現(xiàn)動態(tài)頁面數(shù)據(jù)爬取
爬蟲項目實戰(zhàn)：
分布式爬蟲+ Elasticsearch 打造搜索引擎
Python 爬蟲的入門教程有很多，以下是我推薦的幾本：
1.《Python 網(wǎng)絡爬蟲開發(fā)實戰(zhàn)》：這本書介紹了Python爬蟲的基本原理，以及如何使用Python編寫爬蟲程序，實現(xiàn)網(wǎng)絡爬蟲的功能。
2.《Python爬蟲技術實戰(zhàn)》：這本書介紹了Python爬蟲的基本原理，以及如何使用Python編寫爬蟲程序，實現(xiàn)網(wǎng)絡爬蟲的功能。
3.《Python爬蟲數(shù)據(jù)分析》：這本書介紹了如何分析爬取到的數(shù)據(jù)，以及如何使用Python編寫爬蟲程序，實現(xiàn)網(wǎng)絡爬蟲的功能。
4.《Python爬蟲實戰(zhàn)：深入理解Web抓取》：這本書介紹了如何使用Python編寫爬蟲程序，實現(xiàn)網(wǎng)絡爬蟲的功能，以及如何深入理解Web抓取。
5.《Python網(wǎng)絡爬蟲實戰(zhàn)》：這本書介紹了如何使用Python編寫爬蟲程序，實現(xiàn)網(wǎng)絡爬蟲的功能，以及如何解決爬蟲程序遇到的問題。
以上就是我推薦的幾本Python爬蟲的入門教程，可以幫助初學者快速掌握Python爬蟲的基本技術。
重慶分公司
重慶分公司
