Erklärbare KI für Praktiker

Kapitel 6. Fortgeschrittene und aufkommende Themen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

mit Sheeraz Ahmad

Der Schwerpunkt des Buches lag bisher auf etablierten Techniken, Modalitäten und Anwendungsfällen. Erklärbare KI (Explainable AI, XAI) ist jedoch weiterhin ein aktiver Forschungsbereich, so dass ständig neue Techniken entwickelt und bestehende Techniken verbessert und weiter hinterfragt werden. Merkmalsbasierte Erklärungen wie Shapley-Werte und Integrierte Gradienten, die in den vorherigen Kapiteln vorgestellt wurden, können viele Anwendungsfälle abdecken, vor allem wenn sie auf Text-, Tabellen- und Bilddaten angewendet werden. Es gibt jedoch noch weitere neue Techniken und Themen, die in bestimmten Situationen für deinen Erklärungsbaukasten nützlich sein können.

In diesem Kapitel erörtern wir drei große, neue Themen. Erstens stellen wir alternative Erklärungstechniken vor, wie die Zuordnung zu Inputs (im Gegensatz zu Merkmalen) und die Erklärung von Modellen durch Design. Zweitens werden wir kurz darauf eingehen, wie einige der zuvor vorgestellten Techniken allgemeiner auf Datenformate angewendet werden können, die nicht aus Text, Tabellen oder Bildern bestehen, und uns dabei besonders auf Zeitreihen und multimodale Daten (Text + Bild) konzentrieren. Drittens werden wir erörtern, wie Erklärbarkeitstechniken systematisch ausgewertet werden können, anstatt stichprobenartig eine ...