微信掃碼 立即咨詢

不斷超越客戶的期望值,源自我們對這個行業(yè)的熱愛
來源:網(wǎng)絡(luò)推廣知識 - 遠(yuǎn)策科技 | 2022-09-28
網(wǎng)站整體運營離不開SEO,要做好百度搜索引擎的SEO就要關(guān)注Baiduspider,那么什么是Baiduspider?如何才能識別當(dāng)前抓取是正確的百度蜘蛛呢?今天遠(yuǎn)策SEO團(tuán)隊帶大家清楚的了解“百度蜘蛛”的作用以及如何識別百度蜘蛛,為網(wǎng)站整體運營打下基礎(chǔ)。
什么是百度蜘蛛?
百度蜘蛛(Baiduspider)是百度搜索引擎的一個自動程序,它的作用是訪問互聯(lián)網(wǎng)上的網(wǎng)頁,建立索引數(shù)據(jù)庫,使用戶能在百度搜索引擎中搜索到網(wǎng)站相關(guān)內(nèi)容。
如何識別百度蜘蛛?
方法一可以通過查看UA信息來判斷,目前UA分為移動、PC、和小程序三個應(yīng)用場景,這三個渠道UA分別如下:
移動UA:
Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko)Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)
或
Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;+http://www.baidu.com/search/spider.html)
PC UA:
Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
或
Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
小程序UA:
Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;Smartapp; +http://www.baidu.com/search/spider.html)
方法二可以通過雙向DNS解析認(rèn)證,開發(fā)者通過對日志中訪問服務(wù)器的IP地址運行反向DNS查找,判斷某只spider是否來自百度搜索引擎,Baiduspider的hostname以*.baidu.com或*.baidu.jp 的格式命名。然后對域名運行正向DNS查找。對通過命令檢索到的域名運行正向DNS查找,驗證該域名與您日志中訪問服務(wù)器的原始IP地址是否一致,IP地址一致可確認(rèn)spider來自百度搜索引擎,IP地址不一致即為冒充。
此外,您也可以檢查網(wǎng)站訪問日志,及時判斷正確的百度蜘蛛,以防止有人惡意冒充百度蜘蛛來頻繁抓取您的網(wǎng)站。若百度蜘蛛抓取頻次過高,造成網(wǎng)站服務(wù)異常,可以通過搜索資源平臺-【抓取頻次】工具調(diào)整頻次。