近期,百度第1次以官方形式公开了识别百度蜘蛛的信息,并且暗示百度蜘蛛 UA(爬行途径)日前分为 PC、移动、小程序三个应用场景。还给出了网站识别百度蜘蛛的有些途径ua示例!
在小程序无出来之前,百度的抓取通常是只针对移动和pc的网页内容,这个通常做网站的都认识,然则在百度近期迷上小程序之后,对小程序的流量倾斜不止一次的在重复,因此呢相比原来的的 PC 端和移动端,这次百度蜘蛛的爬行途径亦着重说到了百度寄以厚望百度智能小程序,由于百度小程序亦是支持移动端,因此一样亦能被被百度蜘蛛抓取到!
另外百度官网亦给出了做为判断是不是是百度蜘蛛的移动、PC、和小程途径UA示例如图:
另外磊哥还认识到,站长们亦能够通过 DNS 反查 IP 的方式判断来你站spider 是不是来自百度搜索引擎。百度蜘蛛的 hostname 以*.baidu.com 或*.baidu.jp 的格式命名,非*.baidu.com 或*.baidu.jp 通常便是冒充,大众能够酌情屏蔽自己不需要的蜘蛛和源自拜访。
热点新闻
seo终极算法(三),百度排名引流So easy
认识搜索引擎来进行SEO
云蜘蛛时代,搜索排名一晚上全自动霸屏?
春风十里,不如你
|