Aufgeräumtes Modellieren mit R

Kapitel 20. Ensembles von Modellen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Ein Modell-Ensemble, bei dem die Vorhersagen mehrerer einzelner Lerner zu einer Vorhersage zusammengefasst werden, kann ein leistungsstarkes Endmodell ergeben. Die beliebtesten Methoden zur Erstellung von Ensemble-Modellen sind Bagging (Breiman 1996a), Random Forest (Ho 1995; Breiman 2001a) und Boosting (Freund und Schapire 1997). Jede dieser Methoden kombiniert die Vorhersagen von mehreren Versionen desselben Modelltyps (z. B. Klassifikationsbäume). Eine der frühesten Methoden zur Erstellung von Ensembles ist jedoch das Model Stacking (Wolpert 1992; Breiman 1996b).

Hinweis

Beim Modellstapeln werden die Vorhersagen für mehrere Modelle beliebigen Typs kombiniert. Zum Beispiel können eine logistische Regression, ein Klassifikationsbaum und eine Support Vector Machine in einStacking-Ensemble einbezogen werden.

In diesem Kapitel wird gezeigt, wie Vorhersagemodelle mit dem Paketstacks gestapelt werden können. Wir werden die Ergebnisse aus Kapitel 15 wiederverwenden, in dem mehrere Modelle zur Vorhersage der Druckfestigkeit von Betonmischungen bewertet wurden.

Der Prozess des Aufbaus eines gestapelten Ensembles ist:

1. Stelle die Trainingsmenge der Holdout-Vorhersagen zusammen (die durch Resampling erzeugt wurde).

2. Erstelle ein Modell, um diese Vorhersagen zu kombinieren.

3. Passe das Modell für jedes Mitglied des Ensembles ...