统一入口必须能承受应用故障
谁接收请求
反向代理接受客户端 HTTP 连接,将请求转发到选定的 upstream 应用。它隐藏内部地址并提供统一路由入口。这里仅研究可用 upstream 的选择和额外网络跳转,不模拟 TLS 终止、请求头或代理安全。
为什么需要健康检查
节点可能仍在图中,却已无法响应。健康检查会定期检查可用性。在代理发现故障之前,部分请求仍发往故障上游并丢失。检查频率影响损失窗口,但检测故障不会恢复故障应用的容量。
如何计算余量
三台应用各处理300请求/秒,一台故障后只剩600请求/秒,即使路由完美也无法承受原有的900。四台应用故障后仍有三台健康,即900请求/秒。第五台会增加余量,但可能超出预算。
本实验与负载均衡的区别
关键是时间变化:起初所有应用正常,随后第一个故障,之后代理才将其移出路由。分别查看故障上游造成的损失与检测延迟。较短间隔有助于检测,但不能替代备用容量。
任务
900 请求/秒发送到每个容量300 请求/秒的应用。20秒时第一个 upstream 故障。添加反向代理、冗余容量并设置故障检测。
共 60 秒,第 20 秒第一个应用停止响应。无代理时全部流量发给它。代理将流量分配给上游;检测前,故障上游的份额丢失,之后仅剩健康应用的容量。首次健康检查发生在故障那一秒,所以延迟 = 间隔 − 1。
- 添加反向代理和所需数量的应用。
- 设置健康检查间隔。
- 在完整的60秒内验证方案,包括故障阶段。