日常SEO優(yōu)化里，我們都會(huì)去關(guān)注收錄，而收錄的前提則是搜索引擎蜘蛛對(duì)你站點(diǎn)進(jìn)行抓取，那么這里的蜘蛛是什么？難道搜索引擎的蜘蛛真的會(huì)像蜘蛛一樣嗎？

　　學(xué)過SEO的同學(xué)們都知道蜘蛛有兩種爬行方式：深度和廣度，又叫橫向抓取和縱向抓取，那么這個(gè)蜘蛛到底是怎么運(yùn)作的呢？是爬完第一個(gè)頁(yè)面再去爬第二個(gè)頁(yè)面嗎？那第二個(gè)頁(yè)面又是從哪里找到的呢？

 

　　如果真的想要了解這方面的東西，就必須要了解程序，做為一個(gè)合格的SEO，程序設(shè)計(jì)是你必修的一門課程。即然涉及到程序，必然少不了數(shù)據(jù)庫(kù)，編程語(yǔ)言。以PHP為例，其中有一個(gè)函數(shù)叫作file_get_contents，這個(gè)函數(shù)的作用就是獲取URL里面的內(nèi)容，并以文本的方式返回結(jié)果，當(dāng)然也可以用CURL。

 

　　然后，就可以利用程序里面的正則表達(dá)式，對(duì)A鏈接的數(shù)據(jù)進(jìn)行提取、合并、去重等復(fù)雜操作，并將數(shù)據(jù)存入數(shù)據(jù)庫(kù)。數(shù)據(jù)庫(kù)有很多，比如：索引庫(kù)、收錄庫(kù)等等。為什么索引和收錄數(shù)量不一致？當(dāng)然是因?yàn)椴辉谕粋€(gè)庫(kù)里嘛。

 

　　當(dāng)抓取數(shù)據(jù)完成上面操作后，自然也就得到了數(shù)據(jù)庫(kù)里面不存在的鏈接，接著，程序會(huì)發(fā)出另一個(gè)指令，抓取這些庫(kù)里面沒存的URL。直致頁(yè)面全部完成抓取。當(dāng)然更有可能的是抓取完成后，不再抓取。

 

　　在百度站長(zhǎng)平臺(tái)會(huì)有抓取頻次及抓取時(shí)間的數(shù)據(jù)，你應(yīng)該可以見到，每個(gè)蜘蛛抓取是毫無(wú)規(guī)律可言，但你通過日常觀察可以發(fā)現(xiàn)，頁(yè)面深度越深，被抓取到的概率越低。原因很簡(jiǎn)單，蜘蛛并不會(huì)一直圍繞著你的站點(diǎn)爬到所有網(wǎng)站，而是有間隔性的、隨機(jī)性的來(lái)抓取。

 

　　也就是說，搜索引擎的蜘蛛抓取是有隨機(jī)性和時(shí)效性的，而我們SEO的目的是盡快的完成頁(yè)面及內(nèi)容的呈現(xiàn)，尤其是我們認(rèn)為最有價(jià)值的內(nèi)容。所以就會(huì)演變成，如何在有限數(shù)量的蜘蛛抓取中展現(xiàn)更多的內(nèi)容呢？當(dāng)然就是盡可能的降低頁(yè)面深度，增加頁(yè)面寬度，在《SEO實(shí)戰(zhàn)密碼》中有關(guān)于頁(yè)面深度方面的優(yōu)化方法，所以在此不再做過多的描述。有需要的可以搜索一下電子書，當(dāng)然更建議人手一本。

 

　　蜘蛛雖然有隨機(jī)性和時(shí)效性，但也還是有許多規(guī)律可尋，比如流量對(duì)于蜘蛛有非常直接的正向作用，所以日常的操作當(dāng)中你也會(huì)發(fā)現(xiàn)，一旦有流量進(jìn)入到站點(diǎn)，蜘蛛也會(huì)隨著增多，這種蜘蛛表現(xiàn)尤其是在一些違規(guī)操作里面表現(xiàn)的更為明顯，比如百度刷排名！

 

　　除了時(shí)效性和隨機(jī)性以外，蜘蛛還有一個(gè)特性就是喜新厭舊，一個(gè)時(shí)刻變化的站點(diǎn)，是非常受蜘蛛喜愛的，哪怕他沒有任何的意義！當(dāng)然，這也算是搜索引擎的一個(gè)BUG，只是這種BUG沒辦法修復(fù)，或者說很難修復(fù)。所以就有許多人利用BUG開發(fā)一系列的軟件，比如蜘蛛池，蜘蛛池頁(yè)面每次打開都內(nèi)容不一樣，利用文字段落隨機(jī)組合進(jìn)行內(nèi)容構(gòu)造，對(duì)蜘蛛進(jìn)行欺騙。然后再輔以大量的域名（一般幾百個(gè)）形成一個(gè)新內(nèi)容庫(kù)，圈住蜘蛛。當(dāng)然圈住蜘蛛肯定不是目的，圈蜘蛛的目的是為了放蜘蛛，那怎么來(lái)放呢？成幾百萬(wàn)、幾千萬(wàn)的頁(yè)面，每個(gè)頁(yè)面嵌入一個(gè)外連，蜘蛛自然隨著外鏈就可以引導(dǎo)到你想讓他去的站點(diǎn)。這樣就達(dá)到了頁(yè)面的高頻蜘蛛訪問。

 

　　當(dāng)一個(gè)頁(yè)面蜘蛛去的多了，收錄自然不再會(huì)是問題。那蜘蛛對(duì)收錄有正向幫助，對(duì)于排名有幫助嗎？通過我們的研究發(fā)展，百度蜘蛛、百度排名、自然流量這三者的關(guān)系非常的微秒，每一項(xiàng)的變動(dòng)都會(huì)涉及到其它兩項(xiàng)的變動(dòng)。只不過有的變化大，有的變化小。

 

　　所以SEOer請(qǐng)一定重視蜘蛛方面的研究，這是你成為合格SEO的必經(jīng)之路！努力吧，騷年！