Site Reliability Engineering

Kapitel 21. Umgang mit Überlast

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Geschrieben von Alejandro Forero Cuervo

Herausgegeben von Sarah Chavis

Ein Ziel von Lastausgleichsstrategien ist es, Überlastungen zu vermeiden. Aber egal, wie effizient deine Lastausgleichsstrategie ist, irgendwann wird ein Teil deines Systems überlastet sein. Um ein zuverlässiges Serving-System zu betreiben, ist es wichtig, mit Überlastungen umzugehen.

Eine Möglichkeit, mit Überlastung umzugehen, besteht darin, verschlechterte Antworten zu liefern: Antworten, die nicht so genau sind oder weniger Daten enthalten als normale Antworten, die aber leichter zu berechnen sind. Zum Beispiel:

• Anstatt den gesamten Korpus zu durchsuchen, um die besten Ergebnisse für eine Suchanfrage zu erhalten, kannst du nur einen kleinen Prozentsatz der Kandidatenmenge durchsuchen.

• Verlasse dich auf eine lokale Kopie der Ergebnisse, die vielleicht nicht ganz aktuell ist, aber billiger ist, als die kanonische Speicherung zu nutzen.

Bei extremer Überlastung kann es jedoch passieren, dass der Dienst nicht einmal in der Lage ist, die Antworten zu berechnen und auszuliefern. In diesem Fall hat er möglicherweise keine andere Wahl, als Fehler zu liefern. Eine Möglichkeit, dieses Szenario zu entschärfen, besteht darin, den Datenverkehr so auf die Rechenzentren zu verteilen, dass kein Rechenzentrum mehr Datenverkehr erhält, als es verarbeiten ...