蜘蛛抓取的流程主要分為四個過程:抓取、過濾,樹立索引、輸入成果。這便是從用戶搜索一個關鍵詞,到搜索引擎匹配并展現成果的過程。這個過程是復雜而漫長的,也是遵循必定規律的。蜘蛛作為一種程序,被形象的比喻為動物,便利用戶了解。接下來就為站長具體描述這個抓取程序的作業流程:
抓取網站內容 網站經過2個方面進行抓取。一是網站提交給百度后,蜘蛛便開端經過提交的url進行抓取,并樹立一個表,這些提交的網站url就存在這個表中。大多數人都以為蜘蛛是隨意抓取,看到什么抓什么。其實不然,蜘蛛是順著錨文本和鏈接進行抓取的。這就要說到第二個抓取方法——外鏈。經過外界方式進行抓取,也是一種很快的方法?;ヂ摼W是由很多點組成的,這些點便是指向鏈接,蜘蛛順著這些指向鏈接,并對用戶的注重程度進行不同頻率的抓取。 過濾 顧名思義,蜘蛛對于提交到列表的url進行過濾。過濾掉一些奇葩用戶的網頁,以及一些死鏈接和空白頁面。蜘蛛的過濾是有挑選的,假如網站很多存在這些有害頁面,會影響到蜘蛛的抓取,降低信賴度,所以,呈現這些頁面必定要自動提及,做到亡羊補牢,為時未晚。 樹立索引 蜘蛛對于網頁中的關鍵詞信息進行辨認和存儲,并提早做好排名。這些存儲的信息,會變成一個虛擬的數據結構,里邊包括很多相關數據,比如網頁的tag、title、meta、description、外鏈、抓取記錄等。樹干和樹枝脈絡清晰,用來具體的展現給用戶搜索成果,這便是索引庫。 輸出成果 用戶搜索后,索引庫會映射出一張匹配表,并在這張表中進行篩選。篩選的規則是用戶輸入關鍵詞表現的需求和網頁優劣。打分成果呈現后,好的排名就會被展現在第一頁,供用戶挑選構成點擊和轉化。 以上四個過程便是蜘蛛抓取的全過程。百度根據鏈接把url加入列表,差遣蜘蛛這個程序進行抓取,符合要求的進入索引庫,最后錄入,并組合成結構性的數據,接下來回來的搜索成果,便是我們看到的網站排名。 總結 我們在學SEO時,有必要懂得搜索引擎的原理,比如說你去一家飯館吃飯,連吃法都不懂那不是見笑大方了嗎?所以我們在學習過程中要學會返璞歸真。