這篇文章主要介紹如何實現(xiàn)cookie自動獲取及過期自動更新,文中介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們一定要看完!
創(chuàng)新互聯(lián)長期為1000多家客戶提供的網(wǎng)站建設(shè)服務(wù),團(tuán)隊從業(yè)經(jīng)驗10年,關(guān)注不同地域、不同群體,并針對不同對象提供差異化的產(chǎn)品和服務(wù);打造開放共贏平臺,與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為兩當(dāng)企業(yè)提供專業(yè)的網(wǎng)站設(shè)計制作、網(wǎng)站設(shè)計,兩當(dāng)網(wǎng)站改版等技術(shù)服務(wù)。擁有10多年豐富建站經(jīng)驗和眾多成功案例,為您定制開發(fā)。
社交網(wǎng)站中的很多信息需要登錄才能獲取到,以微博為例,不登錄賬號,只能看到大V的前十條微博。保持登錄狀態(tài),必須要用到Cookie。以登錄www.weibo.cn 為例:
在chrome中輸入:http://login.weibo.cn/login/
分析控制臺的Headers的請求返回,會看到weibo.cn有幾組返回的cookie。
實現(xiàn)步驟:
1,采用selenium自動登錄獲取cookie,保存到文件;
2,讀取cookie,比較cookie的有效期,若過期則再次執(zhí)行步驟1;
3,在請求其他網(wǎng)頁時,填入cookie,實現(xiàn)登錄狀態(tài)的保持。
1,在線獲取cookie
采用selenium + PhantomJS 模擬瀏覽器登錄,獲取cookie;
cookies一般會有多個,逐個將cookie存入以.weibo后綴的文件。
def get_cookie_from_network(): from selenium import webdriver url_login = 'http://login.weibo.cn/login/' driver = webdriver.PhantomJS() driver.get(url_login) driver.find_element_by_xpath('//input[@type="text"]').send_keys('your_weibo_accout') # 改成你的微博賬號 driver.find_element_by_xpath('//input[@type="password"]').send_keys('your_weibo_password') # 改成你的微博密碼 driver.find_element_by_xpath('//input[@type="submit"]').click() # 點擊登錄 # 獲得 cookie信息 cookie_list = driver.get_cookies() print cookie_list cookie_dict = {} for cookie in cookie_list: #寫入文件 f = open(cookie['name']+'.weibo','w') pickle.dump(cookie, f) f.close() if cookie.has_key('name') and cookie.has_key('value'): cookie_dict[cookie['name']] = cookie['value'] return cookie_dict
2,從文件中獲取cookie
從當(dāng)前目錄中遍歷以.weibo結(jié)尾的文件,即cookie文件。采用pickle解包成dict,比較expiry值與當(dāng)前時間,若過期則返回為空;
def get_cookie_from_cache(): cookie_dict = {} for parent, dirnames, filenames in os.walk('./'): for filename in filenames: if filename.endswith('.weibo'): print filename with open(self.dir_temp + filename, 'r') as f: d = pickle.load(f) if d.has_key('name') and d.has_key('value') and d.has_key('expiry'): expiry_date = int(d['expiry']) if expiry_date > (int)(time.time()): cookie_dict[d['name']] = d['value'] else: return {} return cookie_dict
3,若緩存cookie過期,則再次從網(wǎng)絡(luò)獲取cookie
def get_cookie(): cookie_dict = get_cookie_from_cache() if not cookie_dict: cookie_dict = get_cookie_from_network() return cookie_dict
4,帶cookie請求微博其他主頁
def get_weibo_list(self, user_id): import requests from bs4 import BeautifulSoup as bs cookdic = get_cookie() url = 'http://weibo.cn/stocknews88' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.57 Safari/537.36'} timeout = 5 r = requests.get(url, headers=headers, cookies=cookdic,timeout=timeout) soup = bs(r.text, 'lxml') ... # 用BeautifulSoup 解析網(wǎng)頁 ...
以上是“如何實現(xiàn)cookie自動獲取及過期自動更新”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!