一、介紹
Beautiful Soup 是一個可以從HTML或XML文件中提取數(shù)據(jù)的Python庫.它能夠通過你喜歡的轉(zhuǎn)換器實現(xiàn)慣用的文檔導(dǎo)航,查找,修改文檔的方式.Beautiful Soup會幫你節(jié)省數(shù)小時甚至數(shù)天的工作時間,官網(wǎng)推薦在現(xiàn)在的項目中使用Beautiful Soup 4, 移植到BS4,安裝模塊如下:
創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價比樂業(yè)網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式樂業(yè)網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們,業(yè)務(wù)覆蓋樂業(yè)地區(qū)。費用合理售后完善,十多年實體公司更值得信賴。
# pip3 install beautifulsoup4 #pip3 install LXML
二、用法
from bs4 import BeautifulSoup html_doc = """The Dormouse's story asdfThe Dormouse's story總共f
Once upon a time there were three little sisters; and their names were Elsfie, Lacie and Tillie; and they lived at the bottom of a well.ad
sf...
""" soup=BeautifulSoup(html_doc, features="lxml") tag1 = soup.find(name='a') # 找到第一個a標(biāo)簽 tag2 = soup.find_all(name='a') # 找到所有的a標(biāo)簽 tag3 = soup.select('#link2') # 找到id=link2的標(biāo)簽
1、標(biāo)簽名稱查找
tag = soup.find('a') name = tag.name # 獲取標(biāo)簽名稱,結(jié)果a tag.name = 'span' # 設(shè)置標(biāo)簽名稱
2、標(biāo)簽屬性查找
tag = soup.find('a') attrs = tag.attrs # 獲取名稱為a的標(biāo)簽的屬性 ,結(jié)果{'class': ['sister0'], 'id': 'link1'} tag.attrs = {'ik':123} # 設(shè)置 tag.attrs['id'] = 'iiiii' # 設(shè)置 # 可以使用print(soup)查看設(shè)置后的所有標(biāo)簽屬性
3、子孫標(biāo)簽查找
soup.p.contents #p下所有子節(jié)點 soup.p.children #得到一個迭代器,包含p下所有子節(jié)點 for i,child in enumerate(soup.p.children): print(i,child) soup.p.descendants #獲取子孫節(jié)點,p下所有的標(biāo)簽都會選擇出來 for i,child in enumerate(soup.p.descendants): print(i,child)
4、clear,將標(biāo)簽的所有子標(biāo)簽全部清空(保留標(biāo)簽名)
tag = soup.find('body') tag.clear() # 清空名稱為body的標(biāo)簽,保留標(biāo)簽名
5、decompose,遞歸的刪除所有的標(biāo)簽
body = soup.find('body') body.decompose() # 遞歸的刪除名稱為body的標(biāo)簽
6、extract,遞歸的刪除所有的標(biāo)簽,并獲取刪除的標(biāo)簽
body = soup.find('body') v = body.extract() # 遞歸的刪除名稱為body的標(biāo)簽 print(soup) #查看刪除后的結(jié)果為The Dormouse's story
7、decode,轉(zhuǎn)換為字符串(含當(dāng)前標(biāo)簽);decode_contents(不含當(dāng)前標(biāo)簽)
body = soup.find('body') print(body.decode()) #名稱為body的標(biāo)簽轉(zhuǎn)換為字符串,包含body標(biāo)簽 print(body.decode_contents()) #名稱為body的標(biāo)簽轉(zhuǎn)換為字符串,不包含body標(biāo)簽
8、 encode,轉(zhuǎn)換為字節(jié)(含當(dāng)前標(biāo)簽);encode_contents(不含當(dāng)前標(biāo)簽)
body = soup.find('body') print(body.encode()) #名稱為body的標(biāo)簽轉(zhuǎn)換為字節(jié),包含body標(biāo)簽 print(body.encode_contents()) #名稱為body的標(biāo)簽轉(zhuǎn)換為字節(jié),不包含body標(biāo)簽
9、find,獲取匹配的第一個標(biāo)簽
soup.find_all('title', limit=1) soup.find('title') # 上面兩個查找結(jié)果一樣,find查找就相當(dāng)于find_all查找并設(shè)置limit=1 # find_all() 方法的返回結(jié)果是值包含一個元素的列表,而 find() 方法直接返回結(jié)果. # find_all() 方法沒有找到目標(biāo)是返回空列表, find() 方法找不到目標(biāo)時,返回 None soup.find("head").find("title") #可以簡單寫成 soup.head.title tag = soup.find(name='a', attrs={'class': 'sister'}, recursive=True, text='Lacie') tag = soup.find(name='a', class_='sister', recursive=True, text='Lacie')
10、find_all,獲取匹配的所有標(biāo)簽
####### 列表 ####### v = soup.find_all(name=['a','div']) print(v) v = soup.find_all(class_=['sister0', 'sister']) print(v) v = soup.find_all(text=['Tillie']) print(v, type(v[0])) #結(jié)果:['Tillie']v = soup.find_all(id=['link1','link2']) #查找id為link1,link2的標(biāo)簽,結(jié)果放在列表里面 print(v) v = soup.find_all(href=['link1','link2']) #沒找到href為link1,link2的標(biāo)簽,所以結(jié)果是一個空列表 print(v) ####### 正則 ####### import re rep = re.compile('p') #匹配規(guī)則為p標(biāo)簽 rep = re.compile('^p') #匹配規(guī)則為p開頭標(biāo)簽 v = soup.find_all(name=rep) #找p開頭的的所有標(biāo)簽 rep = re.compile('sister.*') v = soup.find_all(class_=rep) v = soup.find_all(attrs={"class":rep}) #和上面的一樣 rep = re.compile('http://www.oldboy.com/static/.*') v = soup.find_all(href=rep) #匹配 ####### 方法篩選 ####### def func(tag): return tag.has_attr('class') and tag.has_attr('id') v = soup.find_all(name=func) print(v) get,獲取標(biāo)簽屬性 tag = soup.find('a') v = tag.get('id') #獲取標(biāo)簽名稱為a的id屬性 print(v)
11、has_attr,檢查標(biāo)簽是否具有該屬性
tag = soup.find('a') v = tag.has_attr('id') #檢查標(biāo)簽a是否具有id屬性 print(v)
12、get_text,獲取標(biāo)簽內(nèi)部文本內(nèi)容
tag = soup.find('a') print(tag) #Elsfie v = tag.get_text('id') print(v) #結(jié)果是:Elsidfidie
13、index,檢查標(biāo)簽在某標(biāo)簽中的索引位置
tag = soup.find('body') v = tag.index(tag.find('div')) print(v) tag = soup.find('body') for i,v in enumerate(tag): print(i,v)
14、is_empty_element,是否是空標(biāo)簽(是否可以是空)或者自閉合標(biāo)簽
# 判斷是否是如下標(biāo)簽:'br', 'hr', 'input', 'img', 'meta', 'spacer', 'link', 'frame', 'base' tag = soup.find('br') v = tag.is_empty_element print(v)
15、關(guān)聯(lián)標(biāo)簽
soup.next soup.next_element #不分層次的查找標(biāo)簽的下一個節(jié)點 soup.next_elements soup.next_sibling #下一個兄弟 soup.next_siblings #下面的兄弟們=>生成器對象 tag.previous tag.previous_element #不分層次的查找標(biāo)簽的上一個節(jié)點 tag.previous_elements tag.previous_sibling #上一個兄弟 tag.previous_siblings #上面的兄弟們=>生成器對象 tag.parent #獲取標(biāo)簽的父節(jié)點 tag.parents #找到標(biāo)簽所有的祖先節(jié)點
16、查找某標(biāo)簽的關(guān)聯(lián)標(biāo)簽
tag.find_next(...) tag.find_all_next(...) tag.find_next_sibling(...) tag.find_next_siblings(...) tag.find_previous(...) tag.find_all_previous(...) tag.find_previous_sibling(...) tag.find_previous_siblings(...) tag.find_parent(...) tag.find_parents(...) # 參數(shù)同find_all
17、select,select_one, CSS選擇器
soup.select("title") #[The Dormouse's story ] soup.select("p:nth-of-type(3)") #選擇所有p標(biāo)簽中的第三個標(biāo)簽,相當(dāng)于soup.select(p)[2] soup.select("body a") #body里的a標(biāo)簽,結(jié)果放在列表顯示 soup.select("html head title") #[The Dormouse's story ] soup.select("span,a") #選擇所有的span和a標(biāo)簽 soup.select("head > title") # 選擇head標(biāo)簽下的直接title子標(biāo)簽 soup.select("p > a") # 選擇p標(biāo)簽下的直接a子標(biāo)簽 soup.select("p > a:nth-of-type(2)") soup.select("p > #link1") # 選擇p標(biāo)簽下的直接id為link1子標(biāo)簽 soup.select("body > a") # 選擇body標(biāo)簽下的直接a子標(biāo)簽 soup.select("#link1 ~ .sister") # 選擇id=link1后的class=sister所有兄弟節(jié)點標(biāo)簽 soup.select("#link1 + .sister") # 選擇id=link1后的class=sister下一個兄弟節(jié)點標(biāo)簽,結(jié)果[Lacie] soup.select(".sister") # 選擇class為sister的標(biāo)簽 soup.select("[class~=sister]") # class=sister的所有節(jié)點 soup.select("#link1") # 選擇id為link1的標(biāo)簽 soup.select("a#link2") # a節(jié)點,且id=link2的節(jié)點 soup.select('a[href]') # 所有的a節(jié)點,有href屬性 soup.select('a[]') # 指定href屬性值的所有a節(jié)點 soup.select('a[href^="http://example.com/"]') soup.select('a[href$="tillie"]') # href屬性以指定值結(jié)尾的所有a節(jié)點 soup.select('a[href*=".com/el"]') from bs4.element import Tag def default_candidate_generator(tag): for child in tag.descendants: if not isinstance(child, Tag): continue if not child.has_attr('href'): continue yield child tags = soup.find('body').select("a", _candidate_generator=default_candidate_generator) print(type(tags), tags) #結(jié)果:[Tillie] from bs4.element import Tag def default_candidate_generator(tag): for child in tag.descendants: if not isinstance(child, Tag): continue if not child.has_attr('href'): continue yield child tags = soup.find('body').select("a", _candidate_generator=default_candidate_generator, limit=1) print(type(tags), tags) #結(jié)果: [Lacie]
18、標(biāo)簽的內(nèi)容
tag = soup.find('span') print(tag.string) # 獲取,結(jié)果f tag.string = 'new content' # 設(shè)置span標(biāo)簽內(nèi)容為new content tag = soup.find('body') print(tag.string) #結(jié)果None tag.string = 'xxx' #xxx tag = soup.find('body') v = tag.stripped_strings # 遞歸內(nèi)部獲取所有標(biāo)簽的文本 print(v) #
19、append在當(dāng)前標(biāo)簽內(nèi)部追加一個標(biāo)簽
tag = soup.find('body') tag.append(soup.find('a')) #在body標(biāo)簽里追加Elsfie from bs4.element import Tag obj = Tag(name='i',attrs={'id': 'it'}) obj.string = '我是一個新來的' tag = soup.find('body') tag.append(obj) #在body標(biāo)簽里追加我是一個新來的
20、insert在當(dāng)前標(biāo)簽內(nèi)部指定位置插入一個標(biāo)簽
from bs4.element import Tag obj = Tag(name='i', attrs={'id': 'it'}) obj.string = '我是一個新來的' tag = soup.find('body') tag.insert(3, obj) print(soup)
21、insert_after,insert_before 在當(dāng)前標(biāo)簽后面或前面插入
from bs4.element import Tag obj = Tag(name='i', attrs={'id': 'it'}) obj.string = '我是一個新來的' tag = soup.find('body') # tag.insert_before(obj) #在當(dāng)前標(biāo)簽前面插入 tag.insert_after(obj) #在當(dāng)前標(biāo)簽后面插入 print(soup)
22、replace_with 在當(dāng)前標(biāo)簽替換為指定標(biāo)簽
from bs4.element import Tag obj = Tag(name='i', attrs={'id': 'it'}) obj.string = '我是一個新來的' tag = soup.find('div') tag.replace_with(obj) print(soup)
23、創(chuàng)建標(biāo)簽之間的關(guān)系
tag = soup.find('div') a = soup.find('a') tag.setup(previous_sibling=a) print(tag.previous_sibling) #tag的上一個兄弟標(biāo)簽Elsfie
24、wrap,將指定標(biāo)簽把當(dāng)前標(biāo)簽包裹起來
from bs4.element import Tag obj1 = Tag(name='div', attrs={'id': 'it'}) obj1.string = '我是一個新來的' #得到新標(biāo)簽我是一個新來的tag = soup.find('a') v = tag.wrap(obj1) #我是一個新來的Elsfieprint(soup) tag = soup.find('a') v = tag.wrap(soup.find('p')) #p標(biāo)簽包住a標(biāo)簽...Elsfie
print(soup)
25、unwrap,去掉當(dāng)前標(biāo)簽,將保留其包裹的標(biāo)簽
tag = soup.find('a')
v = tag.unwrap() #結(jié)果:Elsfie
print(soup)