這篇文章將為大家詳細講解有關(guān)python中獲取頁面的常用方法,小編覺得挺實用的,因此分享給大家做個參考,希望大家閱讀完這篇文章后可以有所收獲。
創(chuàng)新互聯(lián)建站是一家專注于網(wǎng)站制作、網(wǎng)站設(shè)計與策劃設(shè)計,和布克賽爾蒙古網(wǎng)站建設(shè)哪家好?創(chuàng)新互聯(lián)建站做網(wǎng)站,專注于網(wǎng)站建設(shè)10多年,網(wǎng)設(shè)計領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:和布克賽爾蒙古等地區(qū)。和布克賽爾蒙古做網(wǎng)站價格咨詢:18982081108
python獲取頁面的方法:1、使用urllib模塊獲取網(wǎng)頁內(nèi)容;2、使用urllib2模塊獲取頁面內(nèi)容;3、使用requests模塊獲取頁面內(nèi)容;4、使用codecs模塊獲取頁面內(nèi)容。
在學(xué)習(xí)python爬蟲的過程中,總會遇到要獲取網(wǎng)頁內(nèi)容的時候,下面就對如何獲取網(wǎng)頁內(nèi)容進行總結(jié)。
方法一:
>import urllib >url="http://www.baidu.com" #這里是需要獲取的網(wǎng)頁 >content=urllib.open(url).read() #使用urllib模塊獲取網(wǎng)頁內(nèi)容 >print content #輸出網(wǎng)頁的內(nèi)容 功能相當(dāng)于查看網(wǎng)頁源代碼
方法二:
>import urllib2 >from bs4 import BeautifulSoup #這里需要導(dǎo)入BeautifulSoup >url="http://www.baidu.com" >content=urllib2.urlopen(url) >soup=BeautifulSoup(content) #將網(wǎng)頁內(nèi)容轉(zhuǎn)化為BeautifulSoup 格式的數(shù)據(jù) >print soup
方法三:
>import requests >content=requests.get(url).content >print content
這里是使用的python的requests模塊獲取網(wǎng)頁的內(nèi)容。
方法四:
>import codecs #導(dǎo)入codecs模塊 >f=codecs.open(url,"r","utf-8") #使用codecs函數(shù)以打開的方式打開url 設(shè)置默認的編碼方式為utf-8 >content=f.read() >f.close() >print content
關(guān)于python中獲取頁面的常用方法就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。