admin管理员组

文章数量:1560437

众所周知,搜索引擎蜘蛛/爬虫在网站SEO收录排名扮演者至关重要的角色,今天放放SEO就按照国内常用的搜索引擎顺序说说百度搜索引擎user agent和对应的蜘蛛IP段、搜狗UA和对应的蜘蛛IP段、360搜索UA和对应的蜘蛛IP段、神马UA和对应的蜘蛛IP段。海宁育儿嫂

国内主流搜索引擎UA和对应的蜘蛛IP段

百度搜索引擎常用的5类蜘蛛

重点:百度内容抓取蜘蛛UA:

1、新增PC UA:

Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu/search/spider.html)

2、PC UA: (抓取诊断)

Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu/search/spider.html)

1、新增移动UA:

Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu/search/spider.html)

2、移动UA:

Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu/search/spider.html)

百度移动落地页检测UA

Mozilla/5.0 (Linux; Android 6.0; vivo 1601 Build/MRA58K) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/38.0.2125.102 Mobile Safari/537.36 VivoBrowser/5.2.2)

百度小程序UA:

Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;Smartapp; +http://www.baidu/search/spider.html)

百度图片蜘蛛:

Baiduspider-image+(+http://www.baidu/search/spider.htm)

百度图片爬虫IP段:

123.15.**.**

百度常用的IP段

站内收录正常最常见的百度蜘蛛IP段:

220.181.108.*

代表百度蜘蛛IP来访准备抓取你东西

220.181.7.*
123.125.66.*

抓取内页收录的,权重较低,爬过此段的内页文章暂时被收录但不放出来,因不是原创或采集文章:

123.125.71.*

其他认证百度蜘蛛(有待更多数据分析)

159.226.50.*
180.76.5.*
180.76.5.87
220.181.158.107

巡逻蜘蛛:

210.72.225.*

百度高级爬虫UA匹配的IP段:

`111.206.221.*(疑似专门执行JS里链接爬虫)

这个ip段出现在新站及站点有不正常现象后。

183.91.40.144
203.208.60.*

搜狗UA和对应的蜘蛛IP段

搜狗搜索引擎UA:

Sogou web spider/4.0(+http://www.sogou/docs/help/webmasters.htm#07)

图片蜘蛛:

Sogou Pic Spider/3.0(+http://www.sogou/docs/help/webmasters.htm#07)



搜狗蜘蛛IP段:

123.126.113.79-123.126.113.191
 
220.181.89.190
 
220.181.89.189
 
218.30.103.155
 
61.135.189.75
 
220.181.94.228
 
61.135.189.74
 
220.181.89.157
 
220.181.89.165
 
220.181.89.183
 
220.181.89.194
 
218.30.103.80



360搜索UA和对应的蜘蛛IP段

360搜索UA:

Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36; 360Spider

360搜索社区认证的360so蜘蛛IP段:

180.153.232.*
 
180.153.234.*
 
180.153.236.*
 
180.163.220.*
 
42.236.101.*
 
42.236.102.*
 
42.236.103.*
 
42.236.10.*
 
42.236.12.*
 
42.236.13.*
 
42.236.14.*
 
42.236.15.*
 
42.236.16.*
 
42.236.17.*
 
42.236.46.*
 
42.236.48.*
 
42.236.49.*
 
42.236.50.*
 
42.236.51.*
 
42.236.52.*
 
42.236.53.*
 
42.236.54.*
 
42.236.55.*
 
42.236.99.*



神马搜索引擎UA和IP段

神马蜘蛛UA标识:YisouSpider 真是简单明了,IP端也很简单,及时UC带来的流量,所以IP端也是从阿里云来的:

修改:

神马蜘蛛User_agent:

Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 YisouSpider/5.0 Safari/537.36

对应IP段:

42.156.136.-42.156.139.

42.120.160.42.120.161.

Mozilla/5.0 (iPhone; CPU iPhone OS 10_3 like Mac OS X) AppleWebKit/602.1.50 (KHTML, like Gecko) CriOS/56.0.2924.75 Mobile/14E5239e YisouSpider/5.0 Safari/602.1

对应IP段:

106.11.15*.*
















Google

“Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google/bot.html)”

Google图片搜索

“Googlebot-Image/1.0

Adwords移动网络

“AdsBot-Google-Mobile (+http://www.google/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari”

微软 bing,必应

“Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing/bingbot.htm)”

腾讯搜搜

“Sosospider+(+http://help.soso/webspider.htm)”

搜搜图片

“Sosoimagespider+(+http://help.soso/soso-image-spider.htm)”

雅虎英文

“Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo/help/us/ysearch/slurp)”

雅虎中国

“Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo/help.html)”

搜狗图片

“http://pic.sogou” “Sogou Pic Spider/3.0(+http://www.sogou/docs/help/webmasters.htm#07)”

搜狗

“Sogou web spider/4.0(+http://www.sogou/docs/help/webmasters.htm#07)”

网易有道

“Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao/help/webmaster/spider/; )”

瑞典 Speedy Spider

“Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) Speedy Spider (http://www.entireweb/about/search_tech/speedy_spider/)”

俄罗斯 yandex

“Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex/bots)”

宜搜 EasouSpider

Mozilla/5.0 (compatible; EasouSpider; +http://www.easou/search/spider.html)

华为赛门铁克蜘蛛

“HuaweiSymantecSpider/1.0+DSE-support@huaweisymantec.com+(compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR ; http://www.huaweisymantec/cn/IRL/spider)”

华为赛门铁克科技有限公司网页信誉分析系统的一个页面爬取程序,其作用是用于爬取互联网网页并进行信誉分析,从而检查该网站上的是否含有恶意代码。

七牛镜像蜘蛛

qiniu-imgstg-spider-1.0

监控宝

“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; JianKongBao Monitor 1.1)

DNSPod监控

DNSPod-Monitor/2.0

俄罗斯 LinkpadBot

Mozilla/5.0 (compatible; LinkpadBot/1.06; +http://www.linkpad.ru)

英国 MJ12bot

“Mozilla/5.0 (compatible; MJ12bot/v1.4.0; http://www.majestic12.co.uk/bot.php?+)”

本文标签: 神马搜狗蜘蛛搜索引擎ip