Categories


Tags


站点流量异常追查文档-运维篇

站点流量异常原因之运维篇

1、CDN

一些网站会使用CDN加速服务,最近每周搜索资源平台都会接到一两个跟CDN加速问题有关的案例。CDN这里存在一个问题:不同的CDN服务商在全国分布的节点数不同,站点在使用CDN服务时,同一地区CDN给蜘蛛返回的IP地址要和给用户的一致。那么现实情况是,部分CDN服务商出于成本考虑与资源使用率的问题,会在不告知用户的情况下变更IP地址以节约成本,这样就导致蜘蛛在去抓的时候,会遇到新IP和老IP的问题,在站点没有告知更换IP的情况下,蜘蛛会认为站点目前存在问题,首先是减少抓取量,其次会判断是否把不可访问的页面下掉,这时候就出现了用户访问IP与蜘蛛抓取IP不一致的情况。所以建议站点在选择CDN服务时要选择稳定的CDN服务商,其次如果IP更换最好通过搜索资源平台抓取诊断工具抓取测试,如果IP不正确可以点击下图红框“报错”提示给搜索资源平台

2、Robots

站长应该对robots都不陌生,但为什么还要提呢?有这样一种情况:站点需要更新robots文件,对站内部分内容禁止或放开抓取。但由于操作后没有检查是否生效,站长会默认为已经生效。同时还有一个生效周期的问题,那么站点需要在百度搜索资源平台提供的robots检测工具中做一个抓取测试来验证是否生效。

如果看到robots内容和你更改后的内容不一致,有几种可能:第一种可能是网站没有全面布局,因为有的站点服务器可能在很多地方,你需要确认robots是否已全部推送;第二种可能是百度没有及时做更新,可以通过robots检测工具下方的更新按钮来告诉百度Robots有变化。

3、UA/IP

UA封禁一般不会是站点主观错误操作,往往是意外情况,站点在程序中过滤误操作UA封禁,而通常却不知道自己封禁了蜘蛛。只有在逐步的排查才会发现这种概率很小的问题。所以在流量异常中我们在运维篇中把这项列进去,让站点注意这些个细节。

那么当您的网站不希望Baiduspider访问时,才需要该设置,如果您希望Baiduspider访问您的网站,useragent相关的设置中是否有Baiduspider UA,并及时修改。禁止所有来自百度的抓取: User-agent: Baiduspider Disallow: /

IP封禁往往是遇到CC攻击的时候不知道哪些是真百度蜘蛛和仿冒百度蜘蛛而封禁了蜘蛛IP,这里我们建议通过DNS反查方式让站点了解哪些是真实蜘蛛,根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

A、在linux平台下,您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

B、在windows平台或者IBM OS/2平台下,您可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

C、在mac os平台下,您可以使用dig 命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

更多内容请访问:/college/articleinfo?id=34

4、安全/管理不善

安全问题在搜索资源平台能观察到的绝大多数属于管理问题,站点被黑客钻了漏洞而受到了惩罚等,且惩罚力度与站点漏洞的存在时间成正比。

A、域名泛解析

近几个月域名泛解析是一个非常经典的案例,很多网站由于安全意识薄弱、密码简单被黑客钻了空子,解析出了大量非本站内容的低质页面,导致百度搜索引擎对整站采取了临时措施,使得站点流量掉了很多甚至清零。

B、网站被黑

网站被黑跟泛解析也有相似之处,网站内有大量的垃圾页面都是黑客创造出来的,导致受到惩罚,给站点带来致命的打击。

C、网页被挂马

其实这也是被黑的一种,但比被黑释放垃圾页面更为隐蔽,这类案例主要出现在企业网站或者是一些比较小的网站上,黑客直接在页面上放置展现广告代码,而且会判断来访者是普通用户还是蜘蛛,然后区别对待;或者是仅给某一个地区的用户访问挂马页面,给蜘蛛和其他大部分所在地展现正常页面等,这些其实都是非常隐蔽的行为,没有用户举报站点也很难发现,但百度搜索引擎无法容忍这样的页面出现在搜索结果里,自然这些站点会受到惩罚。

D、UGC站点被SPAMMER群发

最后说UGC站点,所有以用户贡献内容的站点在审核机制上一定要加强防范,目前平台能够接到的不少案例都是UGC站点存在监管不利,导致有大量的垃圾内容在线上,当垃圾内容与正常内容的比例达到一定阈值,就有可能整站被百度搜索引擎惩罚。

来源:百度搜索资源平台 百度搜索学堂


Public @ 2009-10-12 15:22:13

网站被黑应该怎么做 — 网站被黑操作指南

网站被黑,通常表现为网站中出现大量非本网站发布的类似博彩内容,或网站页面直接跳转到博彩页面。以下是几种网站被黑后可能出现的页面:● 内容非网站发布,内容中含大量博彩网站指向:● 网站页面直接跳转到博彩网站:网站被黑表明网站安全存在严重问题或漏洞。如何防范网站被黑,请参考以下内容:一、首先,自查站点是否被黑1.被黑网站在数据上有一个特点,即索引量和从搜索引擎带来的流量在短时间内数据异常。所以,站长可

Public @ 2010-10-05 15:37:23

网站安全风险及应对方案

一、网站安全风险 1. SQL注入攻击 2. XSS攻击 3. 网站漏洞 4. 莫名其妙的数据操作 5. 网络钓鱼 6. 网站瘫痪 7. 恶意软件 8. 数据泄露 9. 网络攻击 二、应对方案 1. 采用账号密码的身份验证机制 2. 对于用户输入数据要进行检查、过滤和转义 3. 更改默认口令,使用复杂的口令 4. 使用安全的数据库、服务器(SSL、HTTPS) 5.

Public @ 2023-05-28 13:50:16

站点流量异常追查文档

最新更新章节:2019-01-06百度搜索资源平台几乎每天都会接到站长关于流量的询问,很多站长发现站点流量发生很大变化后,第一反应就是认为自己被误判降权了,情绪激动者不经审核立即开始在公开媒体声讨百度为自己造势。但经过百度站长平台追查,大部分站点都不是真的被惩罚了,或者说并不是因为站点主观原因被惩罚。所以,为了解开站长关于站点流量大幅下滑的谜团,更好地帮助站长查找原因,我们推出了《站点流量异常追查

Public @ 2021-08-07 15:22:14

站点流量异常追查文档-运维篇

站点流量异常原因之运维篇1、CDN一些网站会使用CDN加速服务,最近每周搜索资源平台都会接到一两个跟CDN加速问题有关的案例。CDN这里存在一个问题:不同的CDN服务商在全国分布的节点数不同,站点在使用CDN服务时,同一地区CDN给蜘蛛返回的IP地址要和给用户的一致。那么现实情况是,部分CDN服务商出于成本考虑与资源使用率的问题,会在不告知用户的情况下变更IP地址以节约成本,这样就导致蜘蛛在去抓的

Public @ 2009-10-12 15:22:13

更多您感兴趣的搜索

0.542857s