什么导致搜索引擎蜘蛛不能顺利爬行
诊断过程中经常遇到这样的问题,有一些网页,内容优质,用户也可以正常访问,但是搜索引擎蜘蛛spider却无法正常访问并抓取,造成搜索结果覆盖率缺失,对百度搜索引擎对站点都是一种损失。百度把这种情况叫“抓取异常”。
一、服务器连接异常
服务器连接异常会有两种情况:一种是站点不稳定,Baidu spider尝试连接您网站的服务器时出现暂时无法连接的情况;另一种是Baidu spider –直无法连接上您网站的服务器。
造成服务器连接异常的原因通常是您的网站服务器过大,超负荷运转。也有可能是您的网站运行不正常,请检查网站的Web服务器(如apache、iis)是否安装且正常运行,并使用浏览器检查主要页面能否正常访问。您的网站和主机还可能阻止了Baidu spider的访问,您需要检查网站和主机的防火墙。
二、网络运营商异常
网络运营商分电信和联通两种,Baidu spider通过电信或网通无法访问您的网站。如果出现这种情况,您需要与网络服务运营商进行联系,或者购买拥有双线服务的空间或者购买cdn服务。
三、DNS异常
当Baidu spider无法解析您网站的IP时,会出现DNS异常。可能是您的网站lP地址错误,或者域名服务商把Baidu spider封禁。请使用WHOIS或者host查询自己网站IP地址是否正确且可解析,如果不正确或无法解析,请与域名注册商联系,更新您的IP地址。
四、IP封禁
lP封禁为:限制网络的出口lP地址,禁止该IP段的使用者进行内容访问,在这里特指封禁了Baidu spider IP。当您的网站不希望Baidu spider访问时,才需要该设置。如果您希望Baidu spider访问您的网站,请检查相关设置中是否误添加了Baidu spider IP。也有可能是您网站所在的空间服务商把百度IP进行了封禁,这时您需要联系服务商更改设置。