Erklärbare KI für Praktiker

Kapitel 3. Erklärbarkeit für tabellarische Daten

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Ein großer Teil des Erfolgs von Deep Learning konzentriert sich auf unstrukturierte Daten wie Bilder, Text, Audio und Video, aber die überwiegende Mehrheit der maschinellen Lernmodelle in der Produktion ist auf tabellarische Daten ausgerichtet. Denk an all die Daten in relationalen Datenbanken und Tabellenkalkulationen, die aus numerischen und kategorischen Merkmalen bestehen. Dies sind Beispiele für strukturierte Daten, die in der Praxis die meisten Anwendungsfälle für KI darstellen. In diesem Kapitel befassen wir uns mit Erklärungsmethoden, die bei der Arbeit mit tabellarischen Daten am häufigsten verwendet werden, z. B. Shapley-Werte, Bedeutung von Permutationsmerkmalen, Bauminterpreter und verschiedene Versionen von partiellen Abhängigkeitsdiagrammen.

Permutation Merkmal Wichtigkeit

Hier erfährst du, was du über die Bedeutung von Permutationsmerkmalen wissen musst:

• Nachdem ein Modell an die Trainingsdaten angepasst wurde, misst die Permutationsbedeutung für ein einzelnes Merkmal den Rückgang der Modellbewertung, wenn dieser Merkmalswert zufällig gemischt wird.

• Wenn du die Werte eines bestimmten Merkmals mischst, zerstörst du die Fähigkeit des Modells, mit diesem Merkmal sinnvolle Vorhersagen zu treffen. Wenn sich die Vorhersagen des Modells verschlechtern und die Modellbewertung viel schlechter ...