多台服务器如何服务同一流量
为什么会过载
每个用户操作都会产生请求:打开页面、获取商品列表或保存消息。服务器需要时间执行这些工作。本课中,一台服务器每秒最多处理300个请求。指标旁的req/s表示“每秒请求数”。
如果服务器每秒收到900个请求,只能完成300个,其余600个在模型中被拒绝。这就是过载:到达的工作量超过系统处理能力。
为什么需要负载均衡器
增加服务器称为水平扩展,但客户端必须知道向哪里发送请求。初始拓扑的地址仅指向第一台服务器,因此新增服务器不会自动获得工作。
负载均衡器是服务器前的统一入口。它接收请求并选择转发到哪台服务器。简单方法之一是 round robin(轮询):第一个请求给第一台,第二个给第二台,第三个给第三台,然后重新从第一台开始。这里简化为均匀分流。
如何计算所需容量
假设每秒 600 次请求。两台各有 300 容量的相同服务器,若各收到 300 次即可处理。一台不够;第三台能增加余量,但提高成本。
分别检查总容量是否足够,以及请求是否真正分配到各服务器。若所有流量仍流向一台,五台服务器也无济于事。
拓扑中要检查什么
先添加服务器,查看是否出现活动路由。再添加均衡器,比较每台服务器负载、处理流量和错误。指标自动更新,“验证”按钮保存一次尝试。
本课中服务器相同,负载均衡器本身没有容量上限。不模拟硬件故障与共享数据库。因此成功方案展示的是流量分配原理,而不是适用于所有应用的现成架构。