石家庄网站优化:搜索引擎蜘蛛大全

石家庄网站优化:搜索引擎蜘蛛大全

1、搜索引擎蜘蛛：BaiduSpider

搜索引擎公司还有其它几个蜘蛛：Baiduspider-video(抓取视频)、Baiduspider-news(抓取新闻)、Baiduspider-mobile(抓取wap)，都不常见。

2、搜索引擎蜘蛛爬虫UA：

PC端：Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

移动端：Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

图片：“Baiduspider-image+(+http://www.baidu.com/search/spider.htm)”

3、谷歌蜘蛛：Googlebot

有人说谷歌蜘蛛是GoogleBot，官方谷歌蜘蛛最新名称为Googlebot，还发现了Googlebot-Mobile，看名字是应该是抓取wap内容的。谷歌蜘蛛爬虫UA：“Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)”，图片：“Googlebot-Image/1.0”。

4、360蜘蛛：360Spider

它是一个十分“勤奋抓爬”的蜘蛛。360蜘蛛爬虫UA：Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);

5、搜狗蜘蛛：Sogou News Spider

搜狗公司还有其它几个蜘蛛：Sogou web spider、Sogou inst spider、Sogou spider2、Sogou blog、Sogou Orion spider。搜狗蜘蛛爬虫UA：“Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”

6、必应蜘蛛：bingbot

必应蜘蛛爬虫UA：“Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)”