每分钟访问10万+,11种策略教你保持亿级流量网站稳定性!

2018-04-14 From 程序之心 By 丁仪
<p> 稳定性在大型网站运行中至关重要,面对每分钟 10 万次的网络访问,稍有不慎就会引起重大故障。今天这篇文章一起讨论下亿级流量网站在稳定性方面的一些做法,希望对您有帮助。 p>

基础策略

配置

<p> 配置化就是把很多业务流程相关的数据统一放在一个配置平台上,从代码中抽离出来,使得代码处理通用的业务逻辑配置化之后,代码拥有处理所有场景能力,通过配置数据来决定线上运行时具体操作什么样的数据p> <p> p> <p> 配置化的设计使得我们能够对线上进行快速更改,做到实时的增加、变更和删除,对于快速处理问题有很好的效果。 p>

业务开关

<p> 业务开关就是针对具体一个流程的开关,通过开关的打开和关闭可以实时控制处理逻辑。开关可以有多种类型,常用的有以下几种。 p> <p> Boolean 类型是否使能某个流程,如开启和关闭某个校验; p> <p> Number 类型业务对应的数字配置p> <p> String 类型业务对应的文本配置p> <p> Collection 类型业务对应的集合开关,如指定特定类型业务启动关闭流程p> <p> Map 类型业务对应的映射开关,如指定特定类型业务进行特定类型处理p> <p> p>

部署策略

<p> 面对每分钟达 10 万次的访问流量系统的部署是个很大的挑战。我们采用按机房、按机器分组进行分批次的部署策略,也就是在部署过程中,新版本与老版本共存,同时提供服务,整个的部署过程是一个逐步替换过程p> <p> p> <p> 灰度部署逐步提高新版本在服务中的比例,分流线上用户进行灰度测试。如果发现机器日志异常或有用户反馈服务问题,可以第一时间进行新版本回滚,避免产生更大范围的影响。 p>

错误处理

<p>软件架构中要对错误处理有一套统一流程和规范,对错误进行分类处理,做到根据统计到的错误能够快速判断错误类型。要做到这一点,错误需要约定好统一格式,比如 CHK 开头表示校验失败、THD 开头表示第三方服务错误、SYS 表示当前系统错误,REQUIRED 结尾表示必填项未填、INVALID 结尾表示数据错误、EXCEPTION 结尾则表示出现异常p>

日志收集

<p> 程序运行一定会产生日志日志是排查线上问题的第一手原始资料。准确完整地记录下有意义的日志,才能进行有效的分析。比如基于日志,我们可以统计服务调用量并分析成功率,可以明确地看到错误信息包括哪些用户出错、出错的原因是什么,并可以建立线上问题报警机制。 p> <p> 日志需要按照统一格式打印,存储在一个统一日志分析服务中,做到实时记录、实时搜索p>

线上监控策略

链路跟踪

<p> 分布式系统的一个难题,就是如何跟踪处理链路。通常情况下,我们会在链路的起点为每一个请求生成一个唯一识别码,比如 UUID,并在以后的每一个处理节点记录识别码并传播给下一个处理节点p> <p> 基于这样的唯一识别码,我们可以从海量日志中完整地还原出一个请求在链路上的处理过程,以及输入输出数据进行全链路分析p>

异常监控

<p>Java 抛出的异常进行处理,打印到日志中,可以建立起异常监控。在异常监控中,我们重点关注异常发生的次数、栈信息变化趋势。 p> <p> 通过异常监控,可以快速定位线上问题,直接根据栈信息找到异常发生的地点。如果是第三方服务异常,比如分布式调用超时,也能够快速分析并定位。 p>

机器监控

<p> 机器监控则是重点关注机器CPU内存网络使用情况JVM线程数量、内存使用、Full GC 次数等。流量洪峰到来时,服务器承压,很可能出现 CPU内存不足等情况,也可能导致 JVM 内存不足进行 Full GC,进而引起服务崩溃。服务运行状况如此重要,不能不重视。 p>

面对流量洪峰的策略

服务降级

<p> 服务降级是指在特定情况下,比如双十一、双十二期间,当流量超过系统服务能力时,跳过特定的处理流程。比如在一个卖家下单后,我们可能需要进行风险评估、数据校验等一系列流程,当发生服务降级时,就跳过了数据校验逻辑,来保证服务的稳定性。 p> <p> p> <p> 服务降级是面对流量洪峰保证用户体验和预防系统崩溃的有效手段。比如图片内容的校验通常都是比较耗时操作,面对流量洪峰取消这样的校验可以避免用户的长时间等待、降低对下游链路的冲击,确保服务稳定。 p>

服务限流

<p> 服务限流是指,根据服务处理能力提前预估出一个阈值,当流量大于该阈值时直接放弃处理直接返回错误服务限流是应对流量峰值时,系统进行自我保护的重要措施。比如双十一零点下单峰值、余额宝九点抢购峰值、活动结束商品编辑峰值,都需要进行相应的限流来保护系统p> <p> p> <p> 在分布式部署中,基于 dubbo、Spring cloud 或 HSF 的数据统计功能,很容易推算出系统平时的流量压力。借助于全链路压测,可以很容易看到系统流量峰值下的具体表现。因此,服务限流的实施并不困难。 p>

故障容灾

<p> 单机系统的容灾能力几乎为零,一旦服务崩溃就马上变成不可用。分布式系统通过服务多活,可以不间断提供服务;借助于 nginxApache 进行负载均衡可以进一步提高可用性。 p> <p> 实际上,即便进行了负载均衡和服务分布式部署,系统仍然面临容灾问题现在的大型服务,比如淘宝、天猫、微信、京东都进行了异地多活的部署。异地多活部署的主要目的,在于通过多机房提供服务,来降低单机房故障带来的影响,提高容灾能力p> <p> p>

总结

<p> 这篇文章大概整理了一个亿级流量网站在稳定性方面需要注意和做好的点,关于稳定性还有很多问题值得探讨和深思。 p> <p> 您有什么观点和看法呢?欢迎留言交流。 p>

本文来源:程序之心,转载请注明出处!

本文地址:https://chengxuzhixin.com/blog/article/200046.html

发表感想

© 2016 - 2022 chengxuzhixin.com All Rights Reserved.

浙ICP备2021034854号-1    浙公网安备 33011002016107号