在意識層面，站長對SEO可以形象理解為: 當(dāng)用戶進(jìn)入搜索引擎，就好像進(jìn)入了一個(gè)偌大的圖書館。那么在這個(gè)圖書館里面有非常多的分類,分類分成大分類（可以理解為書架）小分類（可以理解為書架上面的格子）以及具體到小的分類（書的內(nèi)容）！

百度蜘蛛是怎么來抓取網(wǎng)頁的，基礎(chǔ)流程是什么？簡單說一說。
       蜘蛛工作的步：爬行你網(wǎng)站的網(wǎng)頁，尋找合適的資源。
       蜘蛛它有一個(gè)特性，那就是他的運(yùn)動(dòng)軌跡通常都是圍繞著蜘蛛絲而走的，而我們之所以將搜索引擎的機(jī)器人命名為蜘蛛其實(shí)就是因?yàn)檫@個(gè)特性。當(dāng)蜘蛛來到你的網(wǎng)站之后，它就會(huì)順著你網(wǎng)站中的鏈接（蜘蛛絲）不斷的進(jìn)行爬行，因此如何讓蜘蛛能夠更好的在你的網(wǎng)站中進(jìn)行爬行就成為了我們的重中之重。

這個(gè)時(shí)候我們經(jīng)常會(huì)建議站長們用的手法就是在網(wǎng)站上多一些調(diào)用，這些調(diào)用均是調(diào)用網(wǎng)站內(nèi)部的一些文章，這種做法是大多數(shù)站長的選擇，不論是相關(guān)閱讀，還是推薦閱讀，亦或者是其它的排行榜之類的……
        蜘蛛工作的第二步：抓取你的網(wǎng)頁。
        引導(dǎo)蜘蛛的爬行這只是一個(gè)開始，一個(gè)好的開始意味著你將有一個(gè)高起點(diǎn)。通過自己的內(nèi)鏈設(shè)計(jì)，使得網(wǎng)站中不存在任何死角，蜘蛛可以輕松的到達(dá)網(wǎng)站中的每一個(gè)頁面，這樣蜘蛛在進(jìn)行第二步工作——抓取的時(shí)候，將會(huì)事半功倍。
        而在這一步抓取的過程中我們又需要注意的就是要精簡網(wǎng)站的結(jié)構(gòu)，將那些不必要、不需要的多余代碼去掉，因?yàn)檫@些都將會(huì)影響蜘蛛抓取網(wǎng)頁的效率與效果。另外還需要大家注意的事情就是通過我們都不建議網(wǎng)站中放入FLASH，因?yàn)橹┲雽τ贔LASH是不好抓取的，過多的FLASH會(huì)導(dǎo)致蜘蛛放棄抓取你網(wǎng)站的頁面。
        蜘蛛工作的第三步：優(yōu)質(zhì)的文章，能夠極大的提高蜘蛛抓取頁面的幾率。
        到底是外鏈為皇還是內(nèi)容為皇這個(gè)已經(jīng)不重要了，也不是我們這里要討論的東西，但僅僅只是從這句話中我們就能清楚的知道內(nèi)容的重要性了。同樣的，蜘蛛也非常看重內(nèi)容，一篇優(yōu)質(zhì)的原創(chuàng)文章可以很好的打動(dòng)蜘蛛，讓蜘蛛僅僅只是爬了一遍就迫不及待的將其帶回。而相反，一篇抄襲、復(fù)制而來的文章，很有可能蜘蛛需要反復(fù)爬行幾次、甚至幾十次才有可能將其帶回，并且還極有可能根本就無視其存在。
當(dāng)然這也不是絕對的，我們說的只是一個(gè)相對而言的東西，在同等條件下的兩篇文章，優(yōu)質(zhì)的原創(chuàng)文章更加容易被蜘蛛所接受。
        蜘蛛工作的第四步：頁面放出。
        這里我們所說的頁面放出指的是在搜索引擎中可以被正常搜索到了，之所以說第四步是這一步而不是索引，是因?yàn)槲矣X得做為我們SEOER，應(yīng)該盡量簡化研究的過程。
        當(dāng)蜘蛛將頁面抓取完成之后帶回索引庫之后，一切的一切就將不再是我們所能夠控制的了，所以我在這里跳過了索引這一步而是直接談到放出頁面這一步

http://www.dgzxsm168.com/youhuazixun/1891.html 百度蜘蛛如何抓取頁面,百度蜘蛛工作原理及爬行軌跡