客户端设置超时时间真的很重要

概述

在一条慢SQL导致购物车服务无法使用的解决方案一文中，提到了客户端调用购物车服务的时候，超时了。如果当时客户端没有设置超时时间的话，会在客户端中产生级联故障。先用一张图来说明一下。

聚合层除了调用购物车微服务，还调用了营销系统微服务。如果购物车服务的接口响应时间很慢，而客户端聚合层调用购物车服务时，又没有设置超时时间，那么将占有大量的连接，如果请求购物车服务的请求量比较大，瞬间就会把连接占用完，直接导致聚合层调用营销系统时，需要阻塞住等待获取连接，这样的话，整个小程序的很多功能就都用不了了。

从这里我们可以看到，最终小程序端会整体响应很慢，因为它调用了聚合层，而聚合层又调用了一个性能很差的购物车服务。产生级联故障了，小程序端和聚合层都在等待中耗尽了资源，这个是非常可怕的事情。

设置超时时间

聚合层是使用了Spring Cloud Ribbon,我们可以设置一下Ribbon的超时时间。具体的可以参看SpringCloud Edgware.SR3版本中Ribbon的timeout设置方法

ribbon:
  ReadTimeout: 2000
  ConnectTimeout: 2000

这样的话，聚合层调用购物车服务，如果两秒钟没有返回结果，则超时报错。这样做有两个好处。

• 快速失败，释放资源；
• 聚合层调用购物车虽然失败了，但是聚合层调用营销系统则仍然可以进行，不受影响。小程序端使用到营销系统接口的功能也能继续使用；

知识扩展

客户端保持弹性真心很重要，因此像客户端中的

• 负载均衡模式
• 断路器模式
• 后备模式
• 舱壁模式

都是需要了解的。要做一个弹性客户端，可以借助一些工具，像Netflix的Hystrix组件就非常不错，并且已经被Spring Cloud集成进去了，使用起来也比较简单。

总结