史上最全面的百度蜘蛛詳解 你不得不看！

一、什么是Baiduspider?

Baiduspider是百度查找引擎的一個(gè)自動程序，它的作用是拜訪互聯(lián)網(wǎng)上的網(wǎng)頁，樹立索引數(shù)據(jù)庫，運(yùn)用戶能在百度查找引擎中查找到您網(wǎng)站上的網(wǎng)頁。

二、Baiduspider的user-agent是什么?

百度各個(gè)產(chǎn)品運(yùn)用不同的user-agent：

產(chǎn)品名稱 對應(yīng)user-agent

無線查找 Baiduspider

圖片查找 Baiduspider-image

視頻查找 Baiduspider-video

新聞查找 Baiduspider-news

百度搜藏 Baiduspider-favo

百度聯(lián)盟 Baiduspider-cpro

商務(wù)查找 Baiduspider-ads

網(wǎng)頁以及其他查找 Baiduspider

三、Baiduspider對一個(gè)網(wǎng)站效勞器形成的拜訪壓力怎么?

為了達(dá)到對方針資源較好的檢索作用，Baiduspider需求對您的網(wǎng)站堅(jiān)持一定量的抓取。咱們盡量不給網(wǎng)站帶來不合理的擔(dān)負(fù)，并會依據(jù)效勞器承受能力，網(wǎng)站質(zhì)量，網(wǎng)站更新等歸納因素來進(jìn)行調(diào)整。假如您覺得baiduspider的拜訪行為有任何不合理的狀況，您可以反應(yīng)至百度投訴渠道。

四、為什么Baiduspider不斷的抓取我的網(wǎng)站?

對于您網(wǎng)站上新產(chǎn)生的或許繼續(xù)更新的頁面，Baiduspider會繼續(xù)抓取。此外，您也可以查看網(wǎng)站拜訪日志中Baiduspider的拜訪是否正常，以避免有人歹意假充Baiduspider來頻頻抓取您的網(wǎng)站。 假如您發(fā)現(xiàn)Baiduspider非正常抓取您的網(wǎng)站，請經(jīng)過投訴渠道反應(yīng)給咱們，并請盡量給出Baiduspider對貴站的拜訪日志，以便于咱們盯梢處理。

五、怎么判別是否假充Baiduspider的抓取?

建議您運(yùn)用DNS反查辦法來斷定抓取來歷的ip是否歸于百度，依據(jù)渠道不同驗(yàn)證辦法不同，如linux/windows/os三種渠道下的驗(yàn)證辦法別離如下：

1，在linux渠道下，您可以運(yùn)用host ip指令反解ip來判別是否來自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格局命名，非 *.baidu.com 或 *.baidu.jp 即為假充。

$ host 123.125.66.120

120.66.125.123.in-addr.arpa domain name pointer

baiduspider-123-125-66-120.crawl.baidu.com.

host 119.63.195.254

254.195.63.119.in-addr.arpa domain name pointer

BaiduMobaider-119-63-195-254.crawl.baidu.jp.

2，在windows渠道或許IBM OS/2渠道下，您可以運(yùn)用nslookup ip指令反解ip來 判別是否來自Baiduspider的抓取。翻開指令處理器 輸入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip， 來判別是否來自Baiduspider的抓取，Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格局命名，非 *.baidu.com 或 *.baidu.jp 即為假充。

3，在mac os渠道下，您可以運(yùn)用dig 指令反解ip來 判別是否來自Baiduspider的抓取。翻開指令處理器 輸入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip，來判別是否來自Baiduspider的抓取，Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格局命名，非 *.baidu.com 或 *.baidu.jp 即為假充。

六、我不想我的網(wǎng)站被Baiduspider拜訪，我該怎么做?

Baiduspider恪守互聯(lián)網(wǎng)robots協(xié)議。您可以使用robots.txt文件徹底制止Baiduspider拜訪您的網(wǎng)站，或許制止Baiduspider拜訪您網(wǎng)站上的部分文件。 留意：制止Baiduspider拜訪您的網(wǎng)站，將使您的網(wǎng)站上的網(wǎng)頁，在百度查找引擎以及一切百度供給查找引擎效勞的查找引擎中無法被查找到。關(guān)于robots.txt的寫作辦法，請參看咱們的介紹：robots.txt寫作辦法

您可以依據(jù)各產(chǎn)品不同的user-agent設(shè)置不同的抓取規(guī)矩，假如您想徹底制止百度一切的產(chǎn)品錄入，可以直接對Baiduspider設(shè)置制止抓取。

以下robots完成制止一切來自百度的抓取：

User-agent: Baiduspider

Disallow: /

以下robots完成制止一切來自百度的抓取但答應(yīng)圖片查找抓取/image/目錄：

User-agent: Baiduspider

Disallow: /

User-agent: Baiduspider-image

Allow: /image/

請留意：Baiduspider-cpro抓取的網(wǎng)頁并不會建入索引，僅僅履行與客戶約好的操作，所以不恪守robots協(xié)議，假如Baiduspider-cpro給您形成了困擾，請聯(lián)絡(luò)。

Baiduspider-ads抓取的網(wǎng)頁并不會建入索引，僅僅履行與客戶約好的操作，所以不恪守robots協(xié)議，假如Baiduspider-ads給您形成了困擾，請聯(lián)絡(luò)您的客戶效勞專員。

七、為什么我的網(wǎng)站現(xiàn)已加了robots.txt，還能在百度查找出來?

因?yàn)椴檎乙�擎索引�?shù)據(jù)庫的更新需求時(shí)刻。盡管Baiduspider現(xiàn)已中止拜訪您網(wǎng)站上的網(wǎng)頁，但百度查找引擎數(shù)據(jù)庫中現(xiàn)已樹立的網(wǎng)頁索引信息，可能需求數(shù)月時(shí)刻才會鏟除。別的也請查看您的robots配置是否正確。

假如您的回絕被錄入需求十分急切，也可以經(jīng)過投訴渠道反應(yīng)懇求處理。

八、我期望我的網(wǎng)站內(nèi)容被百度索引但不被保存快照，我該怎么做?

Baiduspider恪守互聯(lián)網(wǎng)meta robots協(xié)議。您可以使用網(wǎng)頁meta的設(shè)置，使百度顯現(xiàn)只對該網(wǎng)頁建索引，但并不在查找成果中顯現(xiàn)該網(wǎng)頁的快照。

和robots的更新一樣，因?yàn)椴檎乙�擎索引�?shù)據(jù)庫的更新需求時(shí)刻，所以盡管您現(xiàn)已在網(wǎng)頁中經(jīng)過meta制止了百度在查找成果中顯現(xiàn)該網(wǎng)頁的快照，但百度查找引擎數(shù)據(jù)庫中假如現(xiàn)已樹立了網(wǎng)頁索引信息，可能需求二至四周才會在線上收效。

九、Baiduspider抓取形成的帶寬阻塞?

Baiduspider的正常抓取并不會形成您網(wǎng)站的帶寬阻塞，形成此現(xiàn)象可能是因?yàn)橛腥思俪銪aiduspider歹意抓取。假如您發(fā)現(xiàn)有名為Baiduspider的agent抓取而且形成帶寬阻塞，請趕快和咱們聯(lián)絡(luò)。您可以將信息反應(yīng)至投訴渠道，假如可以供給您網(wǎng)站該時(shí)段的拜訪日志將更加有利于咱們的剖析。