有时候百度蜘蛛来的太频繁,导致服务器承受不起。怎么样正确的识别百度蜘蛛呢?
1.查看UA 百度目前公布的UA:
移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)
PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)
新增渲染UA:
移动UA:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
PC UA:Mozilla/5.0 (compatible;Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
2.利用IP反查工具
Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。
http://tool.apizl.com/tools-seo-ipgetdomain.html
相关文章
- 百度搜索索引量详谈说明,什么是站点索引量。
- 飓风算法2.0 百度即将推出严厉打击恶劣采集行为,蹭热点流量不在有了。
- 百度站长后台网站蜘蛛抓取时间很长初步优化 Baiduspider每次抓取耗时是否有影响
- dedecms配合百度原创保护星火计划来修改meta模板详解
- 熊掌号是什么,详细解读
- 百度搜索落地页时间因子规范详解
- 文章正文中的关键词链接,你知道怎么做吗?
- 正确识别百度蜘蛛的移动UA
- 【百度搜索引擎】惊雷算法解读
- 【百度搜索引擎】闪电算法解读