搜索引擎不抓取页面 服务器端的五个问题

1、错误的封禁 　　在百度的robots.txt的更新上，如果多次点击“检测并更新”就会出现时常可以更新，但是又时常无法更新的问题。如此一来：不应当被收录的东西，在robots.txt上禁止的被收录了，又删除就很正常了。那么它的问题是什么呢？并非服务器负载过度，而是因为防火墙错误的将部分Baiduspider列入了黑名单。　　　　2、服务器异常 　　常规的服务器就不说了，大家都知道的...