详细内容

SEO中百度抓取诊断异常是哪些原因导致的呢?

image.png

Baiduspider如果无法正常抓取,就是抓取诊断出现异常,对于一些内容无法进行正常抓取的网站,百度会判断该网站内容存在一定的问题,从而在收录,网站的权重,排名等几个方面收到较大的影响。

这几年来我所做的SEO诊断,我在这里发现不低于20%的站点存在严重的抓取问题,但奇怪的是,一直没有得到大多数人的重视。而且研究透彻并分享这个问题的人,更是没有发现。

在今天的文章中,我们将讨论这个问题。

SEO诊断,百度抓取异常是什么问题?

连线超时,或者抓到超时,如果你的网站出现了这个问题,到现在还没有处理好,很多人都说,是不是几十次超时?没什么大不了的,如果这样想,那么真的是活该网站做不好,正常的网站又是怎样的呢?

下面举一个例子:

这个重量为4的网站,即使是十几万次的抓取,也还是没有出现过一次抓取错误!若每天抓取的错误数量超过10次(十天半月内就有一次错误,或者是连续几天出现),那就真的要严肃对待这个问题了,因为目前问题的存在,已经限制了网站发展的长期限制,即使是因为这个问题,也不会导致网站降权。

为何出错?

有些人说不用管,这就是BUG,因为我在网站的LOG日志里,没有发现这个问题。此前在百度站长VIP群中,有人这样解释过。但我想说的是:百度抓不到网站,您的网站LOG日志,会不会统计这样的错误?因此,上面的解释是完全没有道理的。

那为什么会发生这样的错误呢?

A,DNS问题。

不管是蜘蛛还是用户访问网站,首先需要对域名的DNS进行正确解析,然而解析之后,你能确定DNS真的稳定吗?很多网站出现问题,都是由于DNS不稳定所致。特别是那些又做域名注册,又搞‘域名抢注’的平台,这样的平台,更容易出现DNS解析不稳定的情况,特别是在抢注高峰期。具体地说是哪个品牌,这个就不点名了,如果你的域名在这些平台上,贺贵江强烈建议你转出它。

B,页面太大了。

有些网站页面出现了四五六七八兆的情况,甚至很少见过一个页面有10MB大小的网页。这样的页面,比较容易出现打开链接超时的问题。通常,网页大小不建议超过3MB,同时建议网站服务器启用GZIP压缩。

C,没有足够的带宽。

这种情况非常普遍,很多网站出现链接超时都是由于带宽不足引起的。众所周知,1M的峰值下载带宽是128KB,如果网站是1M访问,页面大小为256KB,如果同时有2个人打开网页,则需要4秒进行下载。假如带宽是2MB,页面大小是1024KB,一个人打开网站需要8秒,如果是10个人同时打开怎么办?因此,在这里,必须做好充分的准备。一个站长或企业应该观察一下站点的平均带宽,以及峰值带宽情况,如果经常发生“带宽峰值”类型的接入,则一定要提高带宽。

第一字节时间。

也许许多同学没有听说过这个问题,它是指发送一个请求到WEB服务器的时间+WEB服务器处理请求并生成响应所花的时间。有些网站,居然在首字节时间都能达到5MS,这样的情况,网站还能正常运行吗?

1、对于首字节时间,我们应该注意:避免网站与其他网站共享同一服务器的网站会占用自己的网站服务器处理时间。

CDN减少内容与访客之间的“距离”,把静态内容分发给CDN,CDN的内容会自动复制到各个位置,在地理上更接近用户,从而减少TTFB所需的时间。请注意,我们已经确定要将“缓存时间”设置为访问网站速度较慢的网页或栏目。

3、避免网站使用虚拟主机系统如网站在一段时间内没有流量产生,系统会延迟或暂停虚拟服务器,当新访问者进入时,会重新进行服务器备份处理(10s或更长时间);

4、后端优化软件性能降低了服务器为浏览器生成的响应时间,例如:操作码缓存,服务器端缓存,本地缓存,W3总缓存等等。

最终,我们得出结论:

第一,为网站寻找一个可靠的DNS服务商,我们推荐阿里云,其次是稳定的CDN服务商,阿里、百度智能云、腾讯云,都可以。最终是网站服务器,尽量不要选择使用虚拟主机,并且尽量避免多个站点使用同一个服务器。