創(chuàng)新互聯(lián)建站導(dǎo)讀:蜘蛛抓取是有規(guī)律的,也有著自己的規(guī)則,如果蜘蛛不斷重復(fù)的抓取某個(gè)頁(yè)面,那就表示該頁(yè)面更新的頻率較高。當(dāng)然如果網(wǎng)站權(quán)重很高,那么蜘蛛抓取的頻率也會(huì)高很多,也可能會(huì)出現(xiàn)頻繁重復(fù)抓取相同頁(yè)面的情況。
成都創(chuàng)新互聯(lián)一直通過(guò)網(wǎng)站建設(shè)和網(wǎng)站營(yíng)銷幫助企業(yè)獲得更多客戶資源。 以"深度挖掘,量身打造,注重實(shí)效"的一站式服務(wù),以成都網(wǎng)站設(shè)計(jì)、成都網(wǎng)站制作、移動(dòng)互聯(lián)產(chǎn)品、營(yíng)銷型網(wǎng)站服務(wù)為核心業(yè)務(wù)。10年網(wǎng)站制作的經(jīng)驗(yàn),使用新網(wǎng)站建設(shè)技術(shù),全新開(kāi)發(fā)出的標(biāo)準(zhǔn)網(wǎng)站,不但價(jià)格便宜而且實(shí)用、靈活,特別適合中小公司網(wǎng)站制作。網(wǎng)站管理系統(tǒng)簡(jiǎn)單易用,維護(hù)方便,您可以完全操作網(wǎng)站資料,是中小公司快速網(wǎng)站建設(shè)的選擇。
問(wèn)題:為什么蜘蛛總是重復(fù)抓取相同的頁(yè)面?
回答:蜘蛛抓取是有規(guī)律的,也有著自己的規(guī)則,如果蜘蛛不斷重復(fù)的抓取某個(gè)頁(yè)面,那就表示該頁(yè)面更新的頻率較高。當(dāng)然如果網(wǎng)站權(quán)重很高,那么蜘蛛抓取的頻率也會(huì)高很多,也可能會(huì)出現(xiàn)頻繁重復(fù)抓取相同頁(yè)面的情況。
創(chuàng)新互聯(lián)網(wǎng)站營(yíng)銷SEO還是建議大家多去理解下搜索引擎工作原理,理解蜘蛛抓取的規(guī)律是什么樣的,這有好處!
這里有個(gè)比較特殊的情況,創(chuàng)新互聯(lián)曾經(jīng)跟某個(gè)網(wǎng)站做SEO診斷,也遇到了蜘蛛頻繁反復(fù)抓取某個(gè)頁(yè)面的情況。經(jīng)過(guò)分析發(fā)現(xiàn),這個(gè)頁(yè)面是程序自動(dòng)生成的,它不是前端頁(yè)面,而是數(shù)據(jù)庫(kù)類型的文件。網(wǎng)站每次更新內(nèi)容,這個(gè)頁(yè)面上都會(huì)進(jìn)行相應(yīng)的更新,所以這個(gè)動(dòng)態(tài)頁(yè)面就形成了網(wǎng)站地圖一樣的文件,所以蜘蛛抓取就很頻繁。
另外對(duì)于有參數(shù)的動(dòng)態(tài)頁(yè)面(不是以.html結(jié)尾的那種偽靜態(tài)頁(yè)面),也可能會(huì)出現(xiàn)被蜘蛛反復(fù)抓取的情況。
但不管是怎樣的情況,我們只需要知道頁(yè)面更新的頻率會(huì)極大的影響到蜘蛛抓取,同時(shí)也影響到快照更新。下面以快上推網(wǎng)絡(luò)網(wǎng)站為例做下簡(jiǎn)單的介紹,請(qǐng)看圖:
這是快上推網(wǎng)絡(luò)網(wǎng)站一周內(nèi)收錄的數(shù)據(jù),可以看到有15頁(yè)面的記錄,也就是有近150個(gè)頁(yè)面的百度快照得到了更新。而在這些頁(yè)面當(dāng)中,僅僅有幾篇文章是新加的,其他的都是之前的老頁(yè)面。
那么問(wèn)題來(lái)了,為什么有這么多的老頁(yè)面得到快照更新呢?曾經(jīng)有朋友問(wèn)創(chuàng)新互聯(lián),問(wèn)是不是有幾個(gè)編輯專門做網(wǎng)站更新,事實(shí)上并非如此,我們網(wǎng)站上的內(nèi)容基本都是創(chuàng)新互聯(lián)自己更新的,每天就是1-3篇文章左右,當(dāng)然這些都是原創(chuàng)文章。
問(wèn)題在于,我們?cè)谖恼马?yè)面設(shè)置隨機(jī)調(diào)用的內(nèi)容模板,頁(yè)面每次被打開(kāi)都會(huì)隨機(jī)調(diào)用10篇文章。不管是普通用戶還是蜘蛛爬行,頁(yè)面都會(huì)隨機(jī)調(diào)用內(nèi)容,并且我們還設(shè)置了最新的時(shí)間戳。這對(duì)于搜索引擎來(lái)說(shuō),頁(yè)面隨時(shí)都在更新,正是這個(gè)小的SEO技巧,讓百度快照得到了快速更新。
我們?cè)倩氐絾?wèn)題上來(lái),為什么蜘蛛總是重復(fù)抓取相同的頁(yè)面?前面的這些文字應(yīng)該能夠解釋清楚了吧!大家可以去自查下,看看這些被重復(fù)抓取的頁(yè)面有著怎樣的特殊情況。
但是要注意,請(qǐng)大家務(wù)必搞清楚是否是真正的蜘蛛,而不是某些模擬的蜘蛛。比如說(shuō)如果網(wǎng)站經(jīng)常被其他網(wǎng)站采集的話,那么就可能會(huì)出現(xiàn)很多的假蜘蛛,因?yàn)檫@些采集軟件使用的就是類似搜索引擎蜘蛛的假蜘蛛。
然后要從這個(gè)問(wèn)題中發(fā)現(xiàn)可以操作的時(shí)候地方,比如說(shuō)通過(guò)某些SEO方法,讓蜘蛛更加有針對(duì)性的抓取,讓頁(yè)面的快照信息等到更快的更新等等??傊覀円獜倪@些現(xiàn)象中去發(fā)現(xiàn)問(wèn)題、解決問(wèn)題,甚至得出有利于網(wǎng)站優(yōu)化的隱藏信息。