『壹』 linux下nginx如何启用网站日志，查看蜘蛛爬虫
默认的路径是复你安装时候指定的制如果用的LNMP之类的安装包你可以在SHELL下whereisnginx找到相应的路径之后在NGINX下的CONF文件夹里看配置文件，日志文件如果记录了话在配置文件里有路径的～
『贰』 如何分析搜索引擎爬虫日志
用光年日志分析工具，大家都用这个。
『叁』 新网站通过日志怎么看百度爬虫是否俩过
有相对应的 工具的 你把入职导入进去就知道了 自己看的话那就要对比网络的IP然后看他的返回值
『肆』 如何查看百度蜘蛛爬行记录
现在的网络蜘蛛机器人决非以前的机器人了，貌似更聪明，爬行也更灵活多变，今天我们就用实例给大家谈谈。 一、爆发式爬行 不知网络蜘蛛是不是喜欢高效率的爬行，有时网络蜘蛛能在一两分钟内爬行几百次。比如我的站，天天基本上网络蜘蛛都会爆发式爬行几次，早上6点钟有一次大约爬行300次;上午9点钟的时候有一次也是爬行300多次;13点的时候也有一次，不过要少一点，只有200多次;18点的时候也有一次，大约会爬行400多次，23点的时候也有一次，大约只有250次。有时候，我查看具体爬行记录时，这些爆发式爬行基本上不会超过五分钟。有一次，我的站不知是哪个会事，网络蜘蛛在两分钟内爬行了1800多次，我当时就有点纳闷，网络蜘蛛机器人的运算速度可真是惊人。不过我现在基本上知是哪个会事了，由于蜘蛛机器人，它爬行一段时间过后，蜘蛛机器人在去运算程序，看是否是原来收录过的，是否是原创什么的，是否应该收录等等。 二、 确认式爬行 确认式爬行方式网络也是在9月底才开始试行，那么什么是确认式爬行呢，就是指你网站更新一个内容过后，网络第一次爬行过后，一定不会给你放出收录来，网络蜘蛛还要进行第二次爬行在运算、比较计算的，假如以为你这个更新内容有必要收录，网络蜘蛛会进行第三次爬行，正常情况下网络蜘蛛不会进行第四次爬行。第三次确认过后，网络蜘蛛就会慢慢的给你放出收录。 这种确认式爬行方式，就有点类似与谷歌的爬行方式。网络蜘蛛机器人爬行首页的方式还是同原来一样，一天不知要爬行多少次首页，其它页面，假如网络以为有必要进行计算的话，就会进行第二次确认爬行。比如我的站吧，我天天更新的内容，只要是网络蜘蛛机器人爬行了三次的，基本上都会放出收录来。爬行两次了的，都不会放出来。爬行四次的基本上没有看到过。 三、稳定式爬行 稳定式爬行，指的是天天24小时，每一个小时的爬行量相差不大。稳定式爬行往往是对新站才会出现，对于网络以为你站是成熟期的，假如出现了这种爬行方式，你可一定要小心了，这种爬行方式，你的站多半会被降权。第二天就能看出来，首页的快照日期，一定不会给你更新的。比如我的站aabc.cn，每一个小时内的爬行量，从图表中看出来都相差无几。所以这个站的首页基本上不会出现24小时快照。天天我更新的内容一样会收录一些。就比如一个人做任何事式的，没有了激情，也就没有了爆发力，当然不会卖力干事的，不卖力干事，你说效果会有多好。 以上说了这么多，大家可能有疑问了，网络蜘蛛来没有，我怎么知道，这个很简单你可以去查看服务器的记录日志。你假如查看不了记录日志的话，看一下网站后台有没有记录蜘蛛爬行记录的。给大家推荐一款源码露珠CMS，这个建站源码后台能比较清楚的记录各大搜索机器人的痕迹，有各个机器人来访的时间，来访的页面，对来访的具体数据作了分析，进行24小时时间段分析，对各个频道的分析，对你所加的内容的版块进行分析。对各大搜索机器人喜欢你网站的哪个频道，哪个版块都进行了分析，同时也给你提出了补救其它频道和版块的建议，哪个时间加内容收录最快等等。 综上所述，网络蜘蛛对每一个网站的爬行规律是不一样的，只有我们自己认真的比对分析，才能总结出更加完美的更新网站的方式，只有我们把握了网络蜘蛛的一些规律，我们更新内容才能有的放矢。
『伍』 网站日志分析数据如何看
一般来说得通过ftp下载自身网站的一个叫做log文件夹里面的log文件，如果是中小型网站，一般用光年日志分析工具，如果是大型网站，例如新闻门户网站，可以用shell去进行日志处理（这个是要懂代码的），一般来说日志要分析一下数据第一、基础信息，总抓取量、停留时间(h)及访问次数这三个基础信息；第二、目录抓取，提取出爬虫抓取的目录，分析每日目录抓取量；第三、时间段抓取，提取每日的时间段的爬虫抓取量，重在分析每日的抓取情况，找到相应的抓取量较为密集的时间段；第四，IP段的抓取，进行统计，每日每个IP的抓取量；第五，状态码的统计，HTTP状态码返回值。希望以上的内容能对您有帮助！
