重试何时有用,何时造成过载
客户端为何没有收到响应
服务可能调用另一个服务,即依赖,例如打开页面时获取目录数据。依赖有时返回错误或响应过慢。客户端设置超时,到期后不再等待。
超时不能证明依赖未完成工作,响应可能仍在途中。本课依赖响应需 200 毫秒。若只等 100 毫秒,即使依赖正常,也收不到成功响应。
重试改变了什么
重试是在失败后再次执行同一操作。若原因是暂时的,下次调用可能成功。但每次重试都会再次占用依赖。过载时,额外调用可能恶化情况。
需区分用户操作与尝试。例如 300 次原始操作加 150 次额外尝试,共 450 次调用。负载放大为 450 / 300 = 1.5。每个成功操作仅计一次。
为何需要退避与抖动
Backoff 是重试前的等待。指数退避会递增,例如500毫秒、1000毫秒、2000毫秒,让依赖有时间恢复。重试次数需设上限,避免操作过久占用资源。
如果所有客户端同时出错且等待相同时间,就会再次同时到达。Jitter 将重试分散到不同时间。本实验使用三个固定延迟组,确保相同设置始终产生相同结果。
如何评估重试策略
先比较超时和响应时间,再添加重试策略,比较成功操作、延迟和负载放大。以大量调用换取更多成功,不一定是好方案。
这里的操作仅读取数据。写入重试需要单独方案:如重复支付不能二次扣款。“重复执行不产生额外效果”称为幂等性。本实验不模拟它。