Erklärbare KI für Praktiker

Kapitel 2. Ein Überblick über die Erklärbarkeit

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Erklärbarkeit ist ein Teil des maschinellen Lernens seit den Anfängen der KI. Die allerersten KI-Systeme, regelbasierte Kettensysteme, wurden speziell dafür entwickelt, ein klares Verständnis dafür zu liefern, was zu einer Vorhersage führte. Viele Jahrzehnte lang wurde die Erklärbarkeit als zentraler Bestandteil von Modellen angestrebt, zum Teil, weil man sich auf die allgemeine KI konzentrierte, aber auch, um zu rechtfertigen, dass die Forschung vernünftig und auf dem richtigen Weg war, bis die Komplexität der Modellarchitekturen unsere Fähigkeit zur Erklärung des Geschehens überstieg. Nach der Einführung von ML-Neuronen und neuronalen Netzen in den 1980er Jahren¹ nahm die Forschung zur Erklärbarkeit ab, da sich die Forscher darauf konzentrierten, den ersten KI-Winter zu überleben, indem sie sich Techniken zuwandten, die "erklärbar" waren, weil sie sich ausschließlich auf statistische Techniken wie die Bayes'sche Inferenz stützten, die sich in anderen Bereichen bewährt hatten. Die moderne Form der Erklärbarkeit (auf die wir uns in diesem Buch hauptsächlich konzentrieren) wurde Mitte der 2010er Jahre als eigenständiges Forschungsgebiet wiederbelebt, als Antwort auf die hartnäckige Frage " Dieses Modell funktioniert wirklich gut... aber wie?

In nur wenigen Jahren hat sich das Feld von der Unbekanntheit ...