甘肃平凉建设局网站,个人网站做什么好,wordpress 主题 保存,做网站外包创业服务雪崩
在分布式系统中,由于网络原因或自身的原因,服务一般无法保证 100% 可用。
如果一个服务出现了问题#xff0c;调用这个服务就会出现线程阻塞的情况#xff0c;
此时若有大量的请求涌入#xff0c;就会出现多条 线程阻塞等待#xff0c;进而导致服务瘫痪。
由于服…服务雪崩
在分布式系统中,由于网络原因或自身的原因,服务一般无法保证 100% 可用。
如果一个服务出现了问题调用这个服务就会出现线程阻塞的情况
此时若有大量的请求涌入就会出现多条 线程阻塞等待进而导致服务瘫痪。
由于服务与服务之间的依赖性故障会传播会对整个微服务系统造成灾难性的严重后果
这就是服务故障的 “雪崩效应”只有做好足够的容错保证一个服务发送问题不会影响
其他服务的正常运行常见的容错思路
隔离
它是指将系统按照一定的原则划分为若干个服务模块各个模块之间相对独立无强依赖。当有故障发生时能将问题和影响隔离在某个模块内部而不扩散风险不波及其它模块不影响整体的系统服务。常见的隔离方式有线程池隔离和信号量隔离
超时
在上游服务调用下游服务的时候设置一个最大响应时间如果超过这个时间下游未作出反应就断开请求释放掉线程。
限流
限流就是限制系统的输入和输出流量已达到保护系统的目的。为了保证系统的稳固运行,一旦达到的需要限制的阈值,就需要限制流量并采取少量措施以完成限制流量的目的。
熔断
在互联网系统中当下游服务因访问压力过大而响应变慢或失败上游服务为了保护系统整体的可用性可以暂时切断对下游服务的调用。这种牺牲局部保全整体的措施就叫做熔断。
服务熔断一般有三个状态 熔断关闭状态Closed 服务没有故障时熔断器所处的状态对调用方的调用不做任何限制熔断开启状态Open 后续对该服务接口的调用不再经过网络直接执行本地的fallback方法半熔断状态Half-Open 尝试恢复服务调用允许有限的流量调用该服务并监控调用成功率。如果成功率达到预期则说明服务已恢复进入熔断关闭状态如果成功率仍旧很低则重新进入熔断关闭状态
降级
降级其实就是为服务提供一个托底方案一旦服务无法正常调用就使用托底方案
什么是Sentinel
Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方 案。它以流量
为切入点, 从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性Sentinel分为两部分
核心库java客户端不依赖任何框架/库,能够运行于所有 Java 运行时环境同时对 Dubbo /Spring Cloud 等框架也有较好的支持。控制台Dashboard基于 Spring Boot 开发打包后可以直接运行不需要额外的 Tomcat 等应用容器。
集成Sentinel
引入依赖
dependencygroupIdcom.alibaba.cloud/groupIdartifactIdspring-cloud-starter-alibaba-sentinel/artifactId
/dependency安装Sentinel控制台 Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。 下载jar包,解压到文件夹 https://github.com/alibaba/Sentinel/releases 控制台本身就是一个springBoot项目 直接java -jar 启动就可以 项目中添加配置
# Spring
spring:application:# 应用名称name: com-xzx-shopprofiles:# 环境配置active: devcloud:sentinel:transport:port: 9999 #跟控制台交流的端口随意指定一个未使用的端口dashboard: 127.0.0.1:8080 #指定控制台服务地址# nacos规则持久化datasource:ds1:nacos:server-addr: 127.0.0.1:8848dataId: sentinel-xzx-gatewaygroupId: DEFAULT_GROUPdata-type: jsonrule-type: gw-floweager: trueSentinel规则
流控规则
流量控制其原理是监控应用流量的QPS(每秒查询率) 或并发线程数等指标
当达到指定的阈值时对流量进行控制以避免被瞬时的流量高峰冲垮
从而保障应用的高可用性资源名唯一名称默认是请求路径可自定义 针对来源指定对哪个微服务进行限流默认指default意思是不区分来源全部限制 阈值类型/单机阈值 QPS每秒请求数量: 当调用该接口的QPS达到阈值的时候进行限流 线程数当调用该接口的线程数达到阈值的时候进行限流 是否集群暂不需要集群 sentinel共有三种流控模式分别是 直接默认接口达到限流条件时开启限流关联当关联的资源达到限流条件时开启限流 [适合做应用让步]链路当从某个接口过来的资源达到限流条件时开启限流 快速失败默认: 直接失败抛出异常不做任何额外的处理是最简单的效果 Warm Up它从开始阈值到最大QPS阈值会有一个缓冲阶段一开始的阈值是最大QPS阈值的1/3然后慢慢增长直到最大阈值适用于将突然增大的流量转换为缓步增长的场景。 排队等待让请求以均匀的速度通过单机阈值为每秒通过数量其余的排队等待 它还会让设置一个超时时间当请求超过超时间时间还未处理则会被丢弃
热点规则
热点参数流控规则是一种更细粒度的流控规则, 它允许将规则具体到参数上。SentinelResource(“标识”)添加注解到要限制的接口就可以配置热点规则进行接口参数的限制
授权规则
很多时候我们需要根据调用来源来判断该次请求是否允许放行这时候可以使用 Sentinel 的来源 访问控制的功能。来源访问控制根据资源的请求来源origin限制资源是否通过 若配置白名单则只有请求来源位于白名单内时才可通过 若配置黑名单则请求来源位于黑名单时不通过其余的请求通过。 实现 RequestOriginParser 接口 public String parseOrigin(HttpServletRequest request) 自定义来源处理规则
系统规则
系统保护规则是从应用级别的入口流量进行控制从单台机器的总体 Load、RT、入口 QPS 、CPU
使用率和线程数五个维度监控应用数据让系统尽可能跑在最大吞吐量的同时保证系统 整体的稳定性。
系统保护规则是应用整体维度的而不是资源维度的并且仅对入口流量 (进入应用的流量) 生效。Load仅对 Linux/Unix-like 机器生效当系统 load1 超过阈值且系统当前的并发线程数超过 系统容量时才会触发系统保护。系统容量由系统的 maxQps * minRt 计算得出。设定参考值一般 是 CPU cores * 2.5。RT当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护单位是毫秒。线程数当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。入口 QPS当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。CPU使用率当单台机器上所有入口流量的 CPU使用率达到阈值即触发系统保护
sentinel异常处理
//异常处理页面
Component
public class ExceptionHandlerPage implements UrlBlockHandler {
//BlockException 异常接口,包含Sentinel的五个异常
// FlowException 限流异常
// DegradeException 降级异常
// ParamFlowException 参数限流异常
// AuthorityException 授权异常
// SystemBlockException 系统负载异常
Override
public void blocked(HttpServletRequestrequest,HttpServletResponseresponse,BlockException e) throws IOException {response.setContentType(application/json;charsetutf-8);ResponseData data null;if (e instanceof FlowException) {data new ResponseData(-1, 接口被限流了...);} else if (e instanceof DegradeException) {data new ResponseData(-2, 接口被降级了...);}response.getWriter().write(JSON.toJSONString(data));}
}DataAllArgsConstructor//全参构造NoArgsConstructor//无参构造class ResponseData {private int code;private String message;
}
SentinelResource的使用
SentinelResource 用于定义资源并提供可选的异常处理和 fallback 配置项。 Slf4j
public class SentinelHandler {//指定发生BlockException时进入的方法,必须是 staticpublic static String blockHandler(BlockException ex){log.error({},ex);return 接口被限流或者降级了;}//指定发生Throwable时进入的方法,必须是 staticpublic static String fallback(Throwable throwable){log.error({}, throwable);return 接口发生异常了;}
}SentinelResource(
value user,
blockHandlerClass SentinelHandler.class,
blockHandler blockHandler,
fallbackClass SentinelHandler.class,
fallback fallback
)
// defaultFallback: 用于通用的 fallback 逻辑默认fallback函数可以针对所有类型的异常进行处理。若同时配置了 fallback 和 defaultFallback以fallback为准
//exceptionsToIgnore:指定排除掉哪些异常。排除的异常不会计入异常统计也不会进入fallback逻辑而是原样抛出。
//exceptionsToTrace:需要trace的异常Sentinel规则nacos持久化
dependencygroupIdcom.alibaba.csp/groupIdartifactIdsentinel-datasource-nacos/artifactId
/dependency# Spring
spring:application:# 应用名称name: com-xzx-shopprofiles:# 环境配置active: devcloud:sentinel:transport:port: 9999 #跟控制台交流的端口随意指定一个未使用的端口dashboard: 127.0.0.1:8080 #指定控制台服务地址datasource: #nacos持久化配置ds1:nacos:server-addr: 127.0.0.1:8848dataId: sentinel-xzx-gatewaygroupId: DEFAULT_GROUPdata-type: jsonrule-type: gw-flow“flow”、“degrade”、“system”、“authority” “param-flow” “gw-flow”是什么配 置项 这些配置项分别对应 Sentinel 的不同类型规则 “flow” 用于指定流量控制规则。 “degrade” 用于指定熔断降级规则。 “system” 用于指定系统保护规则。 “authority” 用于指定授权规则。 “param-flow” 用于指定热点参数流控规则。 “gw-flow” 用于指定网关流量控制规则它是针对 API 网关使用的流量控制规则类型。
[{resource: /user,limitApp: default,grade: 1,count: 1,strategy: 0,controlBehavior: 0,clusterMode: false }
]resource资源名称
limitApp来源应用
grade阈值类型0代表线程数1代表QPS
count单击阈值
strategy流控模式0代表直接1代表关联2代表链路
controlBehavior流控效果0代表快速失败1代表Warm Up2代表排队等待
clusterMode是否集群
