Maschinelles Lernen für hochriskante Anwendungen

Kapitel 2. Interpretierbares und erklärbaresmaschinelles Lernen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Wissenschaftler/innen passen seit Jahrhunderten Modelle an Daten an, um mehr über beobachtete Muster zu erfahren. Erklärbare maschinelle Lernmodelle und Post-hoc-Erklärungen von ML-Modellen stellen einen schrittweisen, aber wichtigen Fortschritt in dieser langjährigen Praxis dar. Da ML-Modelle nichtlineare, schwache und interagierende Signale leichter erkennen als traditionelle lineare Modelle, können Menschen, die erklärbare ML-Modelle und Post-hoc-Erklärungstechniken verwenden, jetzt auch leichter nichtlineare, schwache und interagierende Signale in ihren Daten erkennen.

In diesem Kapitel befassen wir uns mit wichtigen Ideen für die Interpretation und Erklärung, bevor wir uns mit den wichtigsten Techniken für erklärbare Modelle und Post-hoc-Erklärungen befassen. Wir gehen auch auf die wichtigsten Fallstricke der Post-hoc-Erklärung ein - viele davon können durch den gemeinsamen Einsatz von erklärbaren Modellen und Post-hoc-Erklärung überwunden werden. Als Nächstes werden wir Anwendungen von erklärbaren Modellen und Post-hoc-Erklärungen erörtern, wie z. B. die Modelldokumentation und den Regress für Fehlentscheidungen, die die Verantwortlichkeit für KI-Systeme erhöhen. Das Kapitel schließt mit einer Fallbesprechung des sogenannten "A-Level-Skandals" im Vereinigten Königreich, bei dem ...