Serverzahl an die Last anpassen
Warum Kapazität zeitlich ändern
Eine Anwendung bekommt nachts wenig, während Aktionen viel Verkehr. Dauerhafte Spitzenkapazität ist teuer. Automatische Skalierung fügt Instanzen bei Wachstum hinzu und entfernt sie nach dem Rückgang.
Ein Controller schätzt Kapazitätsbedarf und bestellt Starts oder Stopps. Hier basiert die Entscheidung auf Eingangslast und Zielauslastung. Das ist ein vereinfachter Algorithmus, kein exaktes Abbild einer Cloudplattform.
Minimum, Maximum und Zielauslastung
Minimum ist die Zahl stets bereiter Server, auch bei geringer Last: Reserve für den Spitzenbeginn. Maximum begrenzt die Serverzahl. Es erlaubt Wachstum, heißt aber nicht, dass diese Server bereits laufen.
Die Zielauslastung bestimmt die gewünschte Reserve. Ein Server mit Grenze 300 Anfragen/s wird bei Ziel 50% für 150 eingeplant. Bei Strom 600 fordert der Controller vier an, falls das Maximum es erlaubt. Tatsächlich bedienen nur bereits bereite Server.
Warum automatische Skalierung zu spät kommt
Ein Start braucht Zeit. Während der Vorbereitung verarbeitet eine Instanz keine Anfragen. Steigt der Verkehr stark, kann der Controller sofort genug Server anfordern, doch bis sie bereit sind, fehlt weiterhin Kapazität. Dabei verlorene Anfragen werden hier nicht zwischengespeichert.
Daher drei Zahlen: gewünschte Server laut Berechnung, startende Server und bereits arbeitende bereite Server. Reserve überbrückt die Startzeit, erhöht aber Kosten. Nur das Maximum zu erhöhen schützt die ersten Sekunden nicht.
Was nach dem Rückgang passiert
Server nach kurzem Rückgang sofort abzubauen ist riskant: Die Last kann wieder steigen. Ein Stabilisierungsfenster verlangt eine anhaltende Abbauempfehlung. Ein langes Fenster vermeidet vorschnelles Abschalten, hält aber Kosten länger.
Betrachte die gesamte Zeitachse: Verluste beim Start, bereite Kapazität zur Spitze und überzählige Instanzen nach dem Rückgang. Hier kosten sowohl bereite als auch startende Server. Eine gute Richtlinie bewältigt die vorgegebene Spitze und kehrt bis zum Ende zu einer vernünftigen Instanzzahl zurück.
Aufgabe
Grundlast 300 req/s, von Sekunde 10 bis 30 steigt sie auf 900 req/s. Ein Server schafft 300 req/s, neue Instanzen starten nicht sofort. Wählen Sie Reserve und Skalierungsrichtlinie.
60 Sekundenschritte. Bereite Server bedienen je 300 req/s. Desired folgt Eingangslast und Zielauslastung. Bestellte Server zählen bereits; keine Neubestellung pro Schritt. Startende Instanzen kosten, liefern aber bis readyAt keine Kapazität. Verkleinern braucht eine stabil niedrige Empfehlung.
- Finde den Moment, in dem der Strom steigt, aber bereite Server noch fehlen.
- Fügen Sie Server hinzu, um das Maximum festzulegen; stellen Sie Reserve und Zielauslastung ein.
- Vergleiche die Auswirkungen von Start und Stabilisierung auf Verluste, finale Serverzahl und Kosten.