单体架构:将业务的所有功能集中在一个项目中开发,打成一个包部署。优点:架构简单、部署成本低。缺点:耦合度高,扩展性差,适合小型项目。例如:学生管理系统
分布式架构:根据业务功能对系统进行拆分,每个业务模块作为独立项目开发,称为一个服务。松耦合,扩展性好,但架构复杂,难度大。适合大型互联网项目,例如:京东、淘宝
分布式架构的要考虑的问题有:服务拆分粒度如何?服务集群地址如何维护?服务之间如何实现远程调用?服务健康状态如何感知?
微服务:一种良好的分布式架构方案。
- 优点:拆分粒度更小、服务更独立、耦合度更低。缺点:架构非常复杂,运维、监控、部署难度提高
- 微服务特点:
- 单一职责:微服务拆分粒度更小,每一个服务都对应唯一的业务能力,做到单一职责,避免重复业务开发;每个服务单元都可以独立开发、部署、扩展和管理。这些服务单元相互协作,通过网络进行通信,通常使用轻量级的通信机制(如HTTP或消息队列)进行交互。使得应用程序更具弹性、可扩展性和灵活性,同时也有利于团队之间的独立开发和部署。
- 面向服务:微服务对外暴露业务接口,供其他微服务使用。
- 自治:团队独立、技术独立、数据独立、部署独立,不同微服务都应该有自己的数据库。
- 隔离性强:服务调用做好隔离、容错、降级,避免出现级联问题。
再加上服务异常定位、节点状态监控、自动化部署
微服务这种方案需要技术框架来落地,全球的互联网公司都在积极尝试自己的微服务落地技术。在国内最知名的就是SpringCloud和阿里巴巴的Dubbo(升级SpringCloudAlibaba(实现了SpringCloud接口,是SpringCloud的一部分))微服务技术对比:
企业中常见的四种需求:
Spring Cloud
SpringCloud 是一个基于 Spring Boot 的开源框架,旨在简化构建分布式系统中的微服务架构。它提供了一系列工具和库,用于实现微服务架构中常见的模式和功能,如服务发现、负载均衡、配置管理、断路器模式、消息总线等。
SpringCloud 集成了各种微服务功能组件,并基于SpringBoot实现了这些组件的自动装配,从而提供了良好的开箱即用体验:
对于 SpringBoot 的版本要求
- 服务拆分
- 微服务需要根据业务模块拆分,做到单一职责,避免重复业务开发;
- 微服务可以将业务暴露为接口,供其他微服务使用。
- 不同微服务都应该有自己的数据库。
- 项目结构
- 两种工程结构
- 独立 Project:??
- Maven 聚合:每个微服务作为 主Project 中的一个模块 Module,分别独立打包部署运行,只不过代码放在一个 Project
- cloud-demo:父工程,管理依赖
- order-service:订单微服务,负责订单相关业务
- user-service:用户微服务,负责用户相关业务
- 在每个模块的 application.yaml 配置该微服务名字、端口号、数据库、日志位置、、
- 要求:订单微服务和用户微服务都必须有各自的数据库,相互独立;订单服务和用户服务都对外暴露Restful的接口;订单服务如果需要查询用户信息,只能调用用户服务的Restful接口,不能查询用户数据库
- 两种工程结构
- 远程调用
- 物理上两个微服务隔离,无法查询各自数据库,但网络上微服务相通
- 在一个微服务中,通过java代码发送 http 请求,使用另一个微服务的接口以获取其数据库中的数据
- 在一个微服务的启动类(本身也是配置类)中注册 RestTemplate,配置成 Bean;
- 在 service 中注入 restTemplate(建议使用构造函数),通过 getForObject(“url”) 发送http请求,将返回的 json 数据转换为制定对象类型
Eureka 服务注册中心(白雪)
- 在 Eureka 架构中,微服务角色有两类:
- EurekaServer:服务端,注册中心。记录服务信息、心跳监控
- EurekaClient:客户端
- Provider:服务提供者,例如案例中的 user-service,注册自己的信息到 EurekaServer,每隔30秒向EurekaServer发送心跳
- consumer:服务消费者,例如案例中的 order-service,根据服务名称从 EurekaServer 拉取服务列表,基于服务列表做负载均衡,选中一个微服务后发起远程调用

- Eureka的作用
- 消费者该如何获取服务提供者具体信息? 服务提供者启动时向 eureka 注册自己的信息,eureka 保存这些信息,消费者根据服务名称向 eureka 拉取提供者信息
- 如果有多个服务提供者,消费者该如何选择? 服务消费者利用负载均衡算法,从服务列表中挑选一个
- 消费者如何感知服务提供者健康状态? 服务提供者会每隔30秒向 EurekaServer 发送心跳请求,报告健康状态 eureka 会更新记录服务列表信息,心跳不正常会被剔除,消费者就可以拉取到最新的信息
- Eureka 服务搭建:Eruka 自己就是一个微服务。新建项目,引入 eureka-server 依赖;编写启动类,添加 @EnableEurekaServer 注解;添加 application.yml,添加配置
- Eureka 服务注册:把一个微服务注册到 EurekaServer。
- 微服务项目引入 eureka-client 依赖,
- 在 application.yml 编写依赖:name、url…
- Eureka 服务发现:
服务拉取是(服务A)基于(服务B)服务名称获取(服务B多个实例)服务列表,然后在对服务列表做负载均衡- 修改 orderService(服务B)的代码,修改访问的 userService 的url路径,用服务名代替ip、端口,消除硬编码:
1
String url ="http://userservice/user/" + order.getUserId();
- 在 order-service 项目(服务B)的启动类 OrderApplication中 的 RestTemplate 添加负载均衡注解
1
2
3
4
5
public RestTemplate restTemplate() {
return new RestTemplate();
}
- 修改 orderService(服务B)的代码,修改访问的 userService 的url路径,用服务名代替ip、端口,消除硬编码:
Ribbon 负载均衡(白雪)
- 负载均衡原理
- 加了 @LoadBalanced 注解的RestTemplate,发送的请求将会被 Ribbon 拦截(SpringCloudRibbon的底层采用了一个拦截器),对地址做了修改,处理后发送 HTTP 请求
基本流程如下:- 拦截我们的RestTemplate请求http://userservice/user/1
- RibbonLoadBalancerClient会从请求url中获取服务名称,也就是user-service
- DynamicServerListLoadBalancer根据user-service到eureka拉取服务列表
- eureka返回列表,localhost:8081、localhost:8082
- IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
- RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1, 发起真实请求
- 加了 @LoadBalanced 注解的RestTemplate,发送的请求将会被 Ribbon 拦截(SpringCloudRibbon的底层采用了一个拦截器),对地址做了修改,处理后发送 HTTP 请求
- 负载均衡策略IRule
- IRule 接口:决定了负载均衡的策略,每一个子接口都是一种规则,轮询、随机、、、 通过定义 IRule 实现可以修改负载均衡策略
- 负载均衡策略:负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:
内置负载均衡规则类 规则描述 RoundRobinRule 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 AvailabilityFilteringRule 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的 . .ActiveConnectionsLimit属性进行配置。 WeightedResponseTimeRule 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 ZoneAvoidanceRule【默认】 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 BestAvailableRule 忽略那些短路的服务器,并选择并发数较低的服务器。 RandomRule 随机选择一个可用的服务器。 RetryRule 重试机制的选择逻辑
- 自定义负载均衡策略
- 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:
1
2
3
4
public IRule randomRule(){
return new RandomRule();
} - 配置文件方式:在order-service的application.yml文件中,添加新的配置也可以修改规则:
1
2
3userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则 - 注意,一般用默认的负载均衡规则,不做修改。
- 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:
- 饥饿加载
- Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:
1
2
3
4ribbon:
eager-load:
enabled: true
clients: userservice
- Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:
Nacos注册中心【8848】
- Nacos 是阿里巴巴的产品,现在是 SpringCloud 中的一个组件。相比 Eureka 功能更加丰富,在国内受欢迎程度较高。
- Nacos服务搭建:下载安装包,解压,在 D:\nacos-server-1.4.1\bin 目录下cmd运行指令:
startup.cmd -m standalone
浏览器打开 http://xxxx:8848/nacos/index.html#/login,输入账号/密码:nacos
1. Nacos服务注册或发现
父工程添加 spring-cloud-alibaba 依赖;微服务项目引入 nacos.discovery 依赖,yml 配置 nacos 地址 spring.cloudnacos.server-addr
Nacos 是 SpringCloudAlibaba 的组件,而 SpringCloudAlibaba 也遵循 SpringCloud 中定义的服务注册、服务发现规范。因此使用 Nacos 和使用 Eureka 对于微服务来说,并没有太大区别。
- 引入依赖:
在cloud-demo父工程的pom文件中的<dependencyManagement>
中引入SpringCloudAlibaba的依赖;然后在子微服务 user-service 和 order-service 中的pom文件中引入nacos-discovery依赖1
2
3
4
5
6
7<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>2.2.6.RELEASE</version>
<type>pom</type>
<scope>import</scope>
</dependency>1
2
3
4<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency> - 配置nacos地址:在子微服务 user-service 和 order-service 的 application.yml 中添加 nacos 地址:
1
2
3
4spring:
cloud:
nacos:
server-addr: localhost:8848 - 重启微服务后,登录nacos管理页面http://10.195.138.48:8848/nacos/index.html#/ ,可以看到微服务信息
- 服务发现:消费者需要连接nacos以拉取和订阅服务,因此服务发现的前两步与服务注册是一样(引入nacos-discovery依赖和配置nacos地址),后面再加上服务调用即可
1
2
3
4
5
6
7
8
9
10private final DiscoveryClient discoveryclient;
private void handlecartItems(List<CartVO> vos) {
// 1.根据服务名称,拉取服务的实例列表
List<ServiceInstance> instances = discoveryclient.getInstances("item-service");
// 2.负藏均衡,随机挑选一个实例
ServiceInstance instance = instances.get(RandomUtil.randomInt(instances.size()));
// 3.获取实例的TP和端口
URI uri= instance.getUri();
// ...
}
2. Nacos服务分级存储
一个服务可以有多个实例,例如我们的user-service,可以有:127.0.0.1:8081,127.0.0.1:8082,127.0.0.1:8083
假如这些实例分布于全国各地的不同机房,例如:127.0.0.1:8081在上海机房,127.0.0.1:8082在上海机房,127.0.0.1:8083在杭州机房。 Nacos就将同一机房内的实例 划分为一个集群。
- 也就是说,user-service是服务,一个服务可以包含多个集群,如杭州、上海,每个集群下可以有多个实例,形成分级模型:
微服务互相访问时,应该尽可能访问同集群实例,因为本地访问速度更快。当本集群内不可用时,才访问其它集群: - 配置集群:修改user-service的application.yml文件,添加集群配置:
1
2
3
4
5
6spring:
cloud:
nacos:
server-addr: localhost:8848
discovery:
cluster-name: HZ # 集群名称 - 同集群优先的负载均衡:默认的
ZoneAvoidanceRule
并不能实现根据同集群优先来实现负载均衡。因此Nacos中提供了一个NacosRule
的实现,可以优先从同集群中挑选实例。
修改order-service的application.yml文件,修改负载均衡规则:1
2
3userservice:
ribbon:
NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule # 负载均衡规则
3. 权重配置:
默认情况下NacosRule是同集群内随机挑选,不会考虑机器的性能问题。因此,Nacos提供了权重配置来控制访问频率,权重越大则访问频率越高。
在nacos控制台,找到user-service的实例列表,点击编辑,在弹出的窗口修改权重:(注意:权重为0,则该实例永远不会被访问)
4. 环境隔离:
Nacos提供了namespace来实现环境隔离功能(比如把一些功能紧密的服务隔离在一起,不能被另一些服务访问)
- nacos中可以有多个namespace
- namespace下可以有group、service等
- 不同namespace之间相互隔离,例如不同namespace的服务互相不可见
- 创建namespace:默认情况下,所有service、data、group都在同一个namespace,名为public:
我们可以点击页面新增按钮,添加一个namespace;然后,填写表单,创建一个新的namespace:
- 给微服务配置namespace:只能通过修改配置来实现。例如,修改order-service的application.yml文件:重启order-service后,访问控制台,可以看到下面的结果:
1
2
3
4
5
6
7spring:
cloud:
nacos:
server-addr: localhost:8848
discovery:
cluster-name: HZ
namespace: 492a7d5d-237b-46a1-a99a-fa8e98e4b0f9 # 命名空间,填ID此时访问order-service,因为namespace不同,会导致找不到userservice,控制台会报错:
5. Nacos与Eureka的区别
Nacos和Eureka整体结构类似,服务注册、服务拉取、心跳等待,但是也存在一些差异:
- Nacos与eureka的共同点
- 都支持服务注册和服务拉取
- 都支持服务提供者心跳方式做健康检测
- Nacos与Eureka的区别
- Nacos的服务实例分为两种类型:
- 临时实例:如果实例宕机超过一定时间,会从服务列表剔除,默认的类型。
- 非临时实例:如果实例宕机,不会从服务列表剔除,也可以叫永久实例。
配置一个服务实例为永久实例:1
2
3
4cloud:
nacos:
discovery:
ephemeral: false # 设置为非临时实例
- Nacos支持服务端主动检测提供者状态:临时实例采用心跳模式,非临时实例采用主动检测模式
- 临时实例心跳不正常会被剔除,非临时实例则不会被剔除
- Nacos支持服务列表变更的消息推送模式,服务列表更新更及时
- Nacos集群默认采用AP方式,当集群中存在非临时实例时,采用CP模式;Eureka采用AP方式
- Nacos的服务实例分为两种类型:
6. Nacos配置管理:
Nacos除了可以做注册中心,同样可以做配置管理来使用。
- 统一配置管理
当微服务部署的实例越来越多,达到数十、数百时,逐个修改微服务配置就会让人抓狂,而且很容易出错。我们需要一种统一配置管理方案,可以集中管理所有实例的配置。
Nacos一方面可以将配置集中管理,另一方可以在配置变更时,及时通知微服务,实现配置的热更新。(不用重启服务就能更新)- 在nacos中添加配置文件
注意:项目的核心配置,需要热更新的配置才有放到nacos管理的必要。基本不会变更的一些配置还是保存在微服务本地比较好。
- 从微服务拉取配置:微服务要拉取nacos中管理的配置,并且与本地的application.yml配置合并,才能完成项目启动。 但如果尚未读取application.yml,又如何得知nacos地址呢?
因此spring引入了一种新的配置文件:bootstrap.yaml文件,会在application.yml之前被读取,流程如下:
首先,在user-service服务中,引入nacos-config的客户端依赖然后,在user-service中添加一个bootstrap.yaml文件,内容如下:1
2
3
4
5<!--nacos配置管理依赖-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-config</artifactId>
</dependency>这里会根据spring.cloud.nacos.server-addr获取nacos地址,再根据1
2
3
4
5
6
7
8
9
10spring:
application:
name: userservice # 服务名称
profiles:
active: dev #开发环境,这里是dev
cloud:
nacos:
server-addr: localhost:8848 # Nacos地址
config:
file-extension: yaml # 文件后缀名${spring.application.name}-${spring.profiles.active}.${spring.cloud.nacos.config.file-extension}
作为文件id,来读取配置。本例中,就是去读取userservice-dev.yaml
:
读取nacos配置:在user-service中的UserController中添加业务逻辑,读取pattern.dateformat配置
- 在nacos中添加配置文件
- 配置热更新
我们最终的目的,是修改nacos中的配置后,微服务中无需重启即可让配置生效,也就是配置热更新。可以使用两种方式:- 方式一:在 @Value 注入的变量所在类上添加注解 @RefreshScope:
- 方式二:使用 @ConfigurationProperties 注解代替 @Value 注解。
在 user-service 服务中,添加一个类,读取 patterrn.dateformat 属性:在 UserController 中使用这个类代替 @Value:1
2
3
4
5
6
7
8
9
10
11package cn.itcast.user.config;
import lombok.Data;
import org.springframework.boot.context.properties.ConfigurationProperties;
import org.springframework.stereotype.Component;
public class PatternProperties {
private String dateformat;
}
- 方式一:在 @Value 注入的变量所在类上添加注解 @RefreshScope:
- 配置共享
其实微服务启动时,会去nacos读取多个配置文件,例如:[spring.application.name]-[spring.profiles.active].yaml
,例如:userservice-dev.yaml[spring.application.name].yaml
,例如:userservice.yaml
而[spring.application.name].yaml
不包含环境,因此可以被多个环境共享。下面我们通过案例来测试配置共享:
- 添加一个环境共享配置:我们在nacos中添加一个userservice.yaml文件:
- 在user-service中读取共享配置
- 运行两个UserApplication,使用不同的profile
?? - 配置共享的优先级
当nacos、服务本地同时出现相同属性时,优先级有高低之分:
- 搭建Nacos集群
企业生产中强调“高可用”,Nacos 生产环境下一定要部署为集群状态,部署方式参考课前资料中的文档:nacos集群搭建.md
Feign 远程调用
Feign是一个声明式的http客户端,其作用就是帮助我们优雅的实现http请求的发送;
解决从前利用 RestTemplate 发起远程调用代码中的问题:1、代码可读性差,编程体验不统一;2、参数复杂URL难以维护
OpenFeign是一个声明式的http客户端,是SpringCloud在Eureka公司开源的Feign基础上改造而来。其作用就是基于SpringMVC的常见注解,帮我们优雅的实现http请求的发送.
1. Feign替代RestTemplate
- 引入依赖:在order-service服务的pom文件中引入feign的依赖:
1
2
3
4<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>1
2
3
4
5<!-- 负载均衡?? -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-loadbalance</artifactId>
</dependency> - 添加注解:在order-service的启动类添加
@EnableFeignClients
注解 开启Feign的功能: - 编写Feign的客户端:在order-service中新建一个接口,添加
@FeignClient
注解,内容如下:这个客户端主要是基于SpringMVC的注解来声明远程调用的信息,比如:服务名称:userservice,请求方式:GET,请求路径:/user/{id},请求参数:Long id,返回值类型:User。这样,当服务调用者需要调用服务提供者时,只需要通过Feign客户端调用接口方法即可,Feign会根据注解信息自动发起HTTP请求并处理响应,而无需使用 RestTemplate。1
2
3
4
5
public interface UserClient {
User findById(; Long id)
}
Feign的client是写在服务调用者模块中,用于定义如何调用服务提供者的接口,而服务提供者模块则负责提供具体的业务逻辑和处理请求。 - 测试:修改order-service中的OrderService类中的queryOrderById方法,使用Feign客户端代替RestTemplate:
2. 日志??
Feign可以支持很多的自定义配置,如下表所示:
类型 | 作用 | 说明 |
---|---|---|
feign.Logger.Level | 修改日志级别 | 包含四种不同的级别:NONE、BASIC、HEADERS、FULL |
feign.codec.Decoder | 响应结果的解析器 | http远程调用的结果做解析,例如解析json字符串为java对象 |
feign.codec.Encoder | 请求参数编码 | 将请求参数编码,便于通过http请求发送 |
feign. Contract | 支持的注解格式 | 默认是SpringMVC的注? |
feign. Retryer | 失败重试机制 | 请求失败的重试机制,默认是没有,不过会使用Ribbon的重试 |
一般情况下,默认值就能满足我们使用,如果要自定义时,只需要创建自定义的@Bean覆盖默认Bean即可。
自定义配置的两种方法:
- 配置文件方式:基于配置文件修改feign的日志级别可以针对单个服务,也可以针对所有服务:
- Java代码方式:也可以基于Java代码来修改日志级别,先声明一个类,然后声明一个Logger.Level的对象
如果要全局生效,将其放到启动类的@EnableFeignClients这个注解中;如果是局部生效,则把它放到对应的@FeignClient这个注解中
3. Feign使用优化
Feign 是一个声明式客户端,只是把声明变成 http 请求,底层还是发http请求,依赖于其它的框架。
其底层客户端实现包括 URLConnection:默认实现,不支持连接池;Apache HttpClient:支持连接池;OKHttp:支持连接池。因此提高Feign的性能主要手段就是使用连接池代替默认的URLConnection。用Apache的HttpClient来演示:
- 引入依赖:在order-service的pom文件中引入Apache的HttpClient依赖:
1
2
3
4
5<!--httpClient的依赖 -->
<dependency>
<groupId>io.github.openfeign</groupId>
<artifactId>feign-httpclient</artifactId>
</dependency> - 配置连接池:在order-service的application.yml中添加配置:
1
2
3
4
5
6
7
8
9feign:
client:
config:
default: # default全局的配置
loggerLevel: BASIC # 日志级别,BASIC就是基本的请求和响应信息
httpclient:
enabled: true # 开启feign对HttpClient的支持
max-connections: 200 # 最大的连接数
max-connections-per-route: 50 # 每个路径的最大连接数
4. 最佳实践
所谓最近实践,就是使用过程中总结的经验,最好的一种使用方式。
如果一个微服务需要重复被其他微服务调用(消费),那么每个消费者都要重复编写一个 client。有没有办法简化这种重复的代码编写呢?
- 从一个微服务中拆出一个模块,将Feign的Client、接口有关的POJO、默认的Feign配置都放到这个模块中,供给所有消费者使用
例如,将UserClient、User、Feign的默认配置都抽取到一个feign-api包中,所有其他微服务需要消费该微服务时,引用该包的依赖,即可直接使用。 - 将所有的微服务中的 dto、client、config 统一放在一个模块中,供给所有消费者使用。
junbo-api也是如此??!!
Gateway 服务网关
Spring Cloud Gateway 是 Spring Cloud 的一个全新项目,该项目是基于 Spring 5.0,Spring Boot 2.0 和 Project Reactor 等响应式编程和事件流技术开发的网关,它旨在为微服务架构提供一种简单有效的统一的 API 路由管理方式。
1. 为什么需要网关
Gateway网关是我们服务的守门神,所有微服务的统一入口。前端只需要知道网关的端口,发送请求就行了。
架构图:
网关的核心功能特性:
- 权限控制:网关作为微服务入口,需要校验用户是是否有请求资格,如果没有则进行拦截。
- 路由和负载均衡:一切请求都必须先经过gateway,但网关不处理业务,而是根据某种规则,把请求转发到某个微服务,这个过程叫做路由。当然路由的目标服务有多个时,还需要做负载均衡。
- 限流:当请求流量过高时,在网关中按照下流的微服务能够接受的速度来放行请求,避免服务压力过大。
在SpringCloud中网关的实现包括两种:gateway、zuul
- Zuul是基于Servlet的实现,属于阻塞式编程。
- SpringCloudGateway则是基于Spring5中提供的WebFlux,属于响应式编程的实现,具备更好的性能。
2. gateway快速入门
- 创建 SpringBoot 工程 gateway 服务,引入网关依赖
1
2
3
4
5
6
7
8
9
10<!--网关-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
<!--nacos服务发现依赖-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency> - 编写启动类
1
2
3
4
5
6
public class GatewayApplication {
public static void main(String[] args) {
SpringApplication.run(GatewayApplication.class, args);
}
} - 编写基础配置和路由规则:
创建application.yml文件,内容如下:我们将符合1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17server:
port: 10010 # 网关端口
spring:
application:
name: gateway # 服务名称
cloud:
nacos:
server-addr: localhost:8848 # nacos地址
gateway:
routes: # 网关路由配置
- id: user-service # 1. 路由id,自定义,只要唯一即可
# uri: http://127.0.. # 2. 路由的目标地址 http 就是固定地址
uri: lb://userservice # lb(loadbalance) 就是负载均衡,后面跟服务名称
predicates: # 3. 路由断言(可多条),判断请求是否符合路由规则的条件
- Path=/user/** # 按照路径匹配,只要以/user/开头就符合要求
filters: # 4. 路由过滤器,,
- id: order-service # ...Path
规则的一切请求,都代理到uri
参数指定的地址。本例中,我们将/user/**
开头的请求,代理到lb://userservice
,lb是负载均衡,根据服务名拉取服务列表,实现负载均衡。 - 网关路由的流程图
3. 断言工厂
我们在配置文件中写的断言规则只是字符串,这些字符串会被Predicate Factory读取并处理,转变为路由判断的条件
例如Path=/user/**是按照路径匹配,这个规则是由 org.springframework.cloud.gateway.handler.predicate.PathRoutePredicateFactory
类来处理的,像这样的断言工厂在SpringCloudGateway还有十几个:
名称 | 说明 | 示例 |
---|---|---|
After | 是某个时间点后的请求 | - After=2037-01-20T17:42:47.789-07:00[America/Denver] |
Before | 是某个时间点之前的请求 | - Before=2031-04-13T15:14:47.433+08:00[Asia/Shanghai] |
Between | 是某两个时间点之前的请求 | - Between=2037-01-20T17:42:47.789-07:00[America/Denver], 2037-01-21T17:42:47.789-07:00[America/Denver] |
Cookie | 请求必须包含某些cookie | - Cookie=chocolate, ch.p |
Header | 请求必须包含某些header | - Header=X-Request-Id, \d+ |
Host | 请求必须是访问某个host(域名) | - Host=.somehost.org,.anotherhost.org |
Method | 请求方式必须是指定方式 | - Method=GET,POST |
Path | 请求路径必须符合指定规则 | - Path=/red/{segment},/blue/** |
Query | 请求参数必须包含指定参数 | - Query=name, Jack或者- Query=name |
RemoteAddr | 请求者的ip必须是指定范围 | - RemoteAddr=192.168.1.1/24 |
Weight | 权重处理 |
4. 过滤器工厂
GatewayFilter是网关中提供的一种过滤器,可以对进入网关的请求和微服务返回的响应做处理:
- 路由过滤器的种类:Spring提供了31种不同的路由过滤器工厂。例如:
名称 说明 AddRequestHeader 给当前请求添加一个请求头 RemoveRequestHeader 移除请求中的一个请求头 AddResponseHeader 给响应结果中添加一个响应头 RemoveResponseHeader 从响应结果中移除有一个响应头 RequestRateLimiter 限制请求的流量 - 请求头过滤器:以AddRequestHeader 为例来讲解。
需求:给所有进入userservice的请求添加一个请求头:Truth=itcast is freaking awesome!
1
2
3
4
5
6
7
8
9
10
11# 只需要修改gateway服务的application.yml文件,添加路由过滤即可
spring:
cloud:
gateway:
routes:
- id: user-service # 当前过滤器写在userservice路由下,因此仅仅对访问userservice的请求有效
uri: lb://userservice
predicates:
- Path=/user/**
filters: # 过滤器
- AddRequestHeader=Truth, Itcast is freaking awesome! # 添加请求头 - 默认过滤器:如果要对所有的路由都生效,则可以将过滤器工厂写到default下。格式如下:
1
2
3
4
5
6
7
8
9
10spring:
cloud:
gateway:
routes:
- id: user-service
uri: lb://userservice
predicates:
- Path=/user/**
default-filters: # 默认过滤项
- AddRequestHeader=Truth, Itcast is freaking awesome!
5. 全局过滤器
- 全局过滤器作用
上一节学习的过滤器,网关提供了31种,但每一种过滤器的作用都是固定的。如果我们希望拦截请求,做自己的业务逻辑则没办法实现。全局过滤器的作用也是处理一切进入网关的请求和微服务响应,与GatewayFilter的作用一样。区别在于GatewayFilter通过配置定义,处理逻辑是固定的;而GlobalFilter的逻辑需要自己写代码实现。
定义方式是实现GlobalFilter接口。在filter中编写自定义逻辑,可以实现下列功能:登录状态判断、权限校验、请求限流等1
2
3
4
5
6
7
8
9
10public interface GlobalFilter {
/**
* 处理当前请求,有必要的话通过{@link GatewayFilterChain}将请求交给下一个过滤器处理
*
* @param exchange 请求上下文,里面可以获取Request、Response等信息
* @param chain 用来把请求委托给下一个过滤器
* @return {@code Mono<Void>} 返回标示当前过滤器业务结束
*/
Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain);
} - 自定义全局过滤器
需求:定义全局过滤器,拦截请求,判断请求的参数是否满足下面条件:(如果同时满足则放行,否则拦截)
1、参数中是否有authorization,
2、authorization参数值是否为admin
实现:在gateway中定义一个过滤器:1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21// 过滤器优先级
public class AuthorizeFilter implements GlobalFilter {
public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
// 1.获取请求参数
MultiValueMap<String, String> params = exchange.getRequest().getQueryParams();
// 2.获取authorization参数
String auth = params.getFirst("authorization");
// 3.校验
if ("admin".equals(auth)) {
// 放行
return chain.filter(exchange);
}
// 4.拦截
// 4.1.禁止访问,设置状态码
exchange.getResponse().setStatusCode(HttpStatus.FORBIDDEN);
// 4.2.结束处理
return exchange.getResponse().setComplete();
}
} - 过滤器执行顺序
请求进入网关会碰到三类过滤器:当前路由的过滤器、DefaultFilter、GlobalFilter
请求路由后,会将当前路由过滤器和DefaultFilter、GlobalFilter,合并到一个过滤器链(集合)中,排序后依次执行每个过滤器:
- 排序的规则是什么呢?
- 每一个过滤器都必须指定一个int类型的order值,order值越小,优先级越高,执行顺序越靠前。
- GlobalFilter通过实现Ordered接口,或者添加@Order注解来指定order值,由我们自己指定
- 路由过滤器和defaultFilter的order由Spring指定,默认是按照声明顺序从1递增。
- 当过滤器的order值一样时,会按照 defaultFilter > 路由过滤器 > GlobalFilter的顺序执行。
6. 跨域问题
- 什么是跨域问题:
域名不一致就是跨域,主要包括:域名不同: www.taobao.com 和 www.taobao.org 和 www.jd.com; 域名相同,端口不同:localhost:8080 和 localhost:8081
跨域问题:浏览器禁止请求的发起者与服务端发生跨域ajax请求,请求被浏览器拦截的问题
解决方案:CORS https://www.ruanyifeng.com/blog/2016/04/cors.html - 模拟跨域问题
找到课前资料的页面文件:
放入tomcat或者nginx这样的web服务器中,启动并访问。
可以在浏览器控制台看到下面的错误:
从localhost:8090访问localhost:10010,端口不同,显然是跨域的请求。 - 解决跨域问题:在gateway服务的application.yml文件中,添加下面的配置:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19spring:
cloud:
gateway:
# ??
globalcors: # 全局的跨域处理
add-to-simple-url-handler-mapping: true # 解决options请求被拦截问题
corsConfigurations:
'[/**]':
allowedOrigins: # 允许哪些网站的跨域请求
- "http://localhost:8090"
allowedMethods: # 允许的跨域ajax的请求方式
- "GET"
- "POST"
- "DELETE"
- "PUT"
- "OPTIONS"
allowedHeaders: "*" # 允许在请求中携带的头信息
allowCredentials: true # 是否允许携带cookie
maxAge: 360000 # 这次跨域检测的有效期
Sentinel 服务保护
- 雪崩:微服务调用链路中的某个服务故障,引起整个链路中的所有微服务都不可用,这就是雪崩。
- 雪崩问题产生的原因是什么?
微服务相互调用,服务提供者出现故障或阻塞。
服务调用者没有做好异常处理,导致自身故障
调用链中的所有服务级联失败,导致整个集群故障 - 解决问题的思路有哪些?
尽量避免服务出现故障或阻塞:保证代码的健壮性; 保证网络畅通; 能应对较高的并发请求;
服务调用者做好远程调用异常的后备方案,避免故障扩散 - 解决雪崩问题的常见方案有哪些?
请尔限流:限制流量在服务可以处理的范围,避免因突发流量丽故障
线程隔离:控制业务可用的线程数量,将故障隔离在一定范围
失败处理:(熔断的一部分)定义fallback逻辑,让业务失败时不再抛出异常,而是走fallback逻辑
服务熔断:将异常比例过高的接口断开,拒绝所有请求,直接走fallback - 技术实现
现常用 Sentinel,功能更加强大;Hystrix 支持 SpringCloud 2020前的版本
- 雪崩问题产生的原因是什么?
分布式事务
RabbitMQ 消息队列【5672】
https://leo710aka.github.io/2024/01/11/RabbitMQ/