Erklärbare KI für Praktiker

Kapitel 7. Interaktion mit erklärungsfähiger KI

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Erklärungen können nicht in einem Vakuum existieren. Sie werden von uns, unseren Kollegen, Prüfern und der Öffentlichkeit konsumiert, verwendet und genutzt, um zu verstehen, warum eine KI so gehandelt hat, wie sie gehandelt hat. Ohne Erklärbarkeit (und Interpretierbarkeit) ist Machine Learning (ML) eine Einbahnstraße für Informationen und Vorhersagen. Wir sehen vielleicht, wie eine KI etwas Erstaunliches tut, wie z. B. einen Absatz von einer Sprache in eine andere zu übersetzen, aber nur selten können wir der Technologie uneingeschränkt vertrauen.

Im Grunde stehen wir mit jeder KI, die wir nutzen, in einer Arbeitsbeziehung. Stell dir vor, das maschinelle Lernen wäre dein Kollege. Selbst wenn dieser Mitarbeiter einen tollen Job machen würde, fänden wir es schwierig, mit ihm zu arbeiten, wenn er, wenn wir ihn mit einer Aufgabe betrauen, in einen anderen Raum geht, mit der Antwort zurückkommt und dann sofort wieder geht, ohne auf unsere Fragen zu antworten oder auf etwas zu reagieren, was wir sagen! Dieses Problem des schweigenden Mitarbeiters versucht die Erklärbarkeit zu lösen, indem sie einen zweiseitigen Dialog zwischen dem ML-System und seinen Nutzern einleitet, wie in Abbildung 7-1 dargestellt. Dieser Dialog ist jedoch sehr begrenzt, wenn man bedenkt, wie neu die Erklärbarkeit ist, weshalb es umso ...