Linux/Nginx怎么样查看搜索引擎蜘蛛爬虫的行径

l14107cb

做好网站seo优化的第1步便是首要让蜘蛛爬虫经常来你的网站进行光临，下面的Linux命令能够让你清楚的晓得蜘蛛的爬行状况。下面咱们针对nginx服务器进行分析，日志文件所在目录：

/usr/local/nginx/logs/access.log，access.log这个文件记录的应该是近期一天的日志情况，首要请瞧瞧日志体积，倘若很大(超过50MB)意见别用这些命令分析，由于这些命令很消耗CPU，或更新下来放到分析机上执行，以避免影响网站的速度。

Linux shell命令

1. 百度蜘蛛爬行的次数

cat access.log | grep Baiduspider | wc

最左面的数值表示的便是爬行次数。

2. 百度蜘蛛的仔细记录(Ctrl C能够终止)

cat access.log | grep Baiduspider

亦能够用下面的命令：

cat access.log | grep Baiduspider | tail -n 10

cat access.log | grep Baiduspider | head -n 10

只看最后10条或最前10条，这用就能晓得这个日志文件的起始记录的时间和日期。

3. 百度蜘蛛抓取首页的仔细记录

cat access.log | grep Baiduspider | grep “GET / HTTP”

百度蜘蛛好似对首页非常热爱每一个钟头都来光临，而谷歌和雅虎蜘蛛更喜欢内页。

4. 百度蜘蛛派性记录时间点分布

cat access.log | grep “Baiduspider ” | awk ‘{print $4}

5. 百度蜘蛛爬行页面按次数降序列表

cat access.log | grep “Baiduspider ” | awk ‘{print $7} | sort | uniq -c | sort -r

文中的Baiduspider 改成Googlebot都能够查看谷歌的数据，鉴于大陆的特殊性，大众应该对百度的log更为关注。

附：(Mediapartners-Google)Google adsense蜘蛛的仔细爬行记录

cat access.log | grep Mediapartners

Mediapartners-Google是什么呢?Google adsense宣传之因此能与内容关联，由于每一个包括着adsense的宣传被拜访后，火速就有个Mediapartners-Google蜘蛛来到这个页面，因此几分钟后再刷新就能表示关联性宣传了，真厉害啊！

ps：linux下nginx怎样启用网站日志，查看蜘蛛爬虫

默认的路径是你安装时候指定的