Data Science mit AWS

Bias in Modellen erkennen und Vorhersagen erklären

Selbst wenn unser Datensatz unverzerrt ist, besteht immer noch die Möglichkeit, ein Modell zu trainieren, das verzerrt bzw. voreingenommen (biased) ist. Es klingt überraschend, aber es gibt gewisse Hyperparameter, die bestimmte Facetten von Eingabe-Features anders begünstigen können als andere Facetten desselben Features. Außerdem sollten wir beim Feintuning von vortrainierten Modellen, die verzerrt bzw. voreingenommen sind, vorsichtig sein. BERT zum Beispiel ist aufgrund der Art der Daten, auf denen es trainiert wurde, voreingenommen. Aufgrund der Fähigkeit des Modells, aus dem Kontext zu lernen, übernimmt BERT die statistischen Eigenschaften der Wikipedia-Trainingsdaten, einschließlich aller ...