Wann Wiederholungen helfen und wann sie überlasten
Warum der Client keine Antwort erhielt
Dein Dienst ruft vielleicht einen anderen Dienst als Abhängigkeit auf, etwa Katalogdaten für eine Seite. Dieser antwortet manchmal mit Fehlern oder zu langsam. Der Client begrenzt die Wartezeit und wartet nach Ablauf nicht weiter.
Ein Zeitlimit beweist nicht, dass die Abhängigkeit nichts ausgeführt hat; die Antwort kann unterwegs sein. Hier antwortet sie nach 200 ms. Bei nur 100 ms Wartezeit kommt selbst bei intakter Abhängigkeit kein Erfolg an.
Was eine Wiederholung ändert
Ein Retry ist ein neuer Versuch derselben Operation nach einem Fehler. Bei vorübergehenden Ursachen kann der nächste Aufruf gelingen. Jeder Retry belegt die Abhängigkeit erneut. Unter Überlast können zusätzliche Aufrufe die Lage verschlechtern.
Unterscheide Nutzeroperationen und Versuche. 300 Ausgangsoperationen plus 150 Zusatzversuche ergeben 450 Aufrufe. Lastverstärkung = 450 / 300 = 1,5. Jede erfolgreiche Operation zählt nur einmal.
Wozu Backoff und Jitter nötig sind
Backoff ist die Pause vor dem Retry. Exponentiell wächst sie, etwa 500 ms, dann 1 000, dann 2 000. Das lässt der Abhängigkeit Zeit zur Erholung. Die Retryzahl wird begrenzt, damit Operationen Ressourcen nicht zu lange belegen.
Wenn alle Clients gleichzeitig scheitern und gleich lange warten, kommen sie wieder gemeinsam. Jitter verteilt Retries zeitlich. Der Stand nutzt drei feste Verzögerungsgruppen, damit gleiche Einstellungen stets gleiche Ergebnisse liefern.
Retry-Richtlinien bewerten
Vergleichen Sie zuerst Timeout und Antwortzeit. Ergänzen Sie dann Retries und vergleichen Sie Erfolge, Latenz und Lastverstärkung. Mehr Erfolge durch sehr viele Aufrufe sind nicht unbedingt eine gute Lösung.
Hier lesen Operationen nur. Schreibwiederholungen brauchen eine eigene Lösung: Eine wiederholte Zahlung darf nicht doppelt abbuchen. „Wiederholung ohne zusätzlichen Effekt“ heißt Idempotenz. Dieses Labor modelliert sie nicht.
Aufgabe
300 Operationen/s für 40 Sekunden, dann 20 Sekunden zum Abschluss. Antwortzeit 200 ms; in den ersten 20 Sekunden scheitert jeder fünfte Aufruf. Wähle Zeitlimit und Wiederholungsrichtlinie.
Deterministische Anfragekohorten, Schritte 100 ms, Horizont 60s. Ausgangsfluss dauert 40s. Die Abhängigkeit bedient bis 450 Versuche/s; Schrittkapazität wird proportional auf Kohorten verteilt. In den ersten 20s beträgt der temporäre Fehleranteil 20%, danach 0%. Jede erfolgreiche Operation zählt genau einmal.
- Vergleiche das Ausgangszeitlimit mit der Antwortzeit der Abhängigkeit.
- Fügen Sie die Retry-Richtlinie aus der Palette hinzu; ändern Sie Versuche, Backoff und Jitter.
- Finde die Balance zwischen erfolgreichen Operationen, Latenz und Zusatzlast.