集群
实现排队的方法有很多种,比如我们可以借助消息队列、JDK 中的各种阻塞队列。
集群
相同的服务部署多份,避免单点故障。
超时和重试机制
一旦用户的请求超过某个时间得不到响应就结束此次请求并抛出异常。如果不进行超时设置可能会导致请求响应速度慢,甚至导致请求堆积进而让系统无法在处理请求。
另外,重试的次数一般设为 3 次,再多次的重试没有好处,反而会加重服务器压力(部分场景使用失败重试机制会不太适合)。
云原生(可选)
提示:云原生开发对能力要求很高,Java 后端岗位通常也不会要求云原生开发技能。因此,这部分内容不推荐对云原生开发不感兴趣或者不了解的同学学习,可以选择跳过。
云原生就是在云中构建、运行应用程序的一套完整的技术体系和方法论。这里的技术体系和方法论就目前来说指的是微服务+DevOps+持续交付+容器化。
越来越多的编程语言、框架开始拥抱云原生,例如 Spring 推出了面向云原生的技术 Spring Native、RedHat 开源了 Java 云原生服务框架 Quarkus。
如果你对云原生领域比较感兴趣的话,建议你重点关注下面这些技术:
- 微服务:SpringCloud 或者 SpringCloud Alibaba 其实是不用学习的,云原生下一般基于后面提
到的 Kubernetes 来构建微服务。
- 网关:网关是整个微服务架构的流量入口,负责认证授权、请求分发、认证授权、限流、API
管理、负载均衡等工作,是微服务架构中非常重要的一个组件。因此,我这里专门单独将网关拿出来提一嘴。