百度蜘蛛爬行的基本原理
百度蜘蛛,是百度搜索引擎的一個(gè)自動(dòng)程序。它的作用是訪問(wèn)收集整理互聯(lián)網(wǎng)上的網(wǎng)頁(yè)、圖片、視頻等內(nèi)容,然后分門別類建立索引數(shù)據(jù)庫(kù), 使用戶能在百度搜索引擎中搜索到您網(wǎng)站的網(wǎng)頁(yè)、圖片、視頻等內(nèi)容。
百度蜘蛛的運(yùn)行原理:
(1)通過(guò)百度蜘蛛下載回來(lái)的網(wǎng)頁(yè)放到補(bǔ)充數(shù)據(jù)區(qū),通過(guò)各種程序計(jì)算過(guò)后才放到檢索區(qū),才會(huì)形成穩(wěn)定的排名,所以說(shuō)只要下載回來(lái)的東西都可以通過(guò)指令找到,補(bǔ)充數(shù)據(jù)是不穩(wěn)定的,有可能在各種計(jì)算的過(guò)程中給k掉,檢索區(qū)的數(shù)據(jù)排名是相對(duì)比較穩(wěn)定的,百度目 前是緩存機(jī)制和補(bǔ)充數(shù)據(jù)相結(jié)合的,正在向補(bǔ)充數(shù)據(jù)轉(zhuǎn)變,這也是目 前百度收錄困難的原因,也是很多站點(diǎn)今天給k了明天又放出來(lái)的原因。
(2)深度優(yōu)先和權(quán)重優(yōu)先,百度蜘蛛抓頁(yè)面的時(shí)候從起始站點(diǎn)(即種子站點(diǎn)指的是一些門戶站點(diǎn))是廣度優(yōu)先抓取是為了抓取更多的網(wǎng)址,深度優(yōu)先抓取的目的是為了抓取高質(zhì)量的網(wǎng)頁(yè),這個(gè)策略是由調(diào)度來(lái)計(jì)算和分配的,百度蜘蛛只負(fù)責(zé)抓取,權(quán)重優(yōu)先是指反向連接較多的頁(yè)面的優(yōu)先抓取,這也是調(diào)度的一種策略,一般情況下網(wǎng)頁(yè)抓取抓到40%是正常范圍,60%算很好,100%是不可能的,當(dāng)然抓取的越多越好。