Praxiseinstieg Machine Learning mit Scikit-Learn und TensorFlow

ANHANG C

Das duale Problem bei SVMs

Um Dualität zu verstehen, müssen Sie zunächst die Methode der Lagrange-Multi-plikatoren verstehen. Der generelle Ansatz ist, die Zielgröße einer Optimierung mit Nebenbedingungen in eine Optimierung ohne Nebenbedingungen zu überführen, indem die Nebenbedingungen in die Zielfunktion verschoben werden. Betrachten wir ein einfaches Beispiel. Nehmen wir an, Sie möchten die Werte von x und y finden, die die Funktion f(x,y) = x² + 2y minimieren, wobei Gleichheit als Nebenbedingung vorliegt: 3x + 2y + 1 = 0. Bei den Lagrange-Multiplikatoren definieren wir zunächst eine neue Funktion, die sogenannte Lagrange-Funktion (oder Lagrangian): g(x, y, α) = f(x, y) – α(3x + 2y + 1). Jede Nebenbedingung (in diesem Fall eine) ...