97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 64. Das ethische Dilemma der Modellinterpretierbarkeit

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Grant Fleming

Datenwissenschaftler, Elder Research Inc.

Der Fortschritt in der Datenwissenschaft wird größtenteils durch die immer bessere Vorhersageleistung von immer komplexeren "Blackbox"-Modellen vorangetrieben. Diese Fortschritte bei der Vorhersage gehen jedoch auf Kosten der Interpretierbarkeit der Beziehungen zwischen den Prädiktoren und dem/den Ziel(en) eines Modells, was zu Fehlanwendungen und öffentlichen Kontroversen führt. Diese Nachteile machen deutlich, dass die Interpretierbarkeit eine ethische Frage ist. Datenwissenschaftler/innen sollten sich darum bemühen, zusätzliche Interpretierbarkeitsmethoden einzuführen, die die Vorhersageleistung (Modellkomplexität) erhalten und gleichzeitig die Nachteile minimieren.

Ein Blick in die wissenschaftliche oder populäre Literatur über "KI" oder "Data Science" macht deutlich, wie wichtig es ist, die Vorhersageleistung zu maximieren. Immerhin haben die jüngsten Durchbrüche im Modelldesign und die daraus resultierenden Verbesserungen der Vorhersageleistung dazu geführt, dass die Modelle die Leistung von Ärzten bei der Erkennung verschiedener medizinischer Probleme und das menschliche Leseverständnis übertreffen. Diese Durchbrüche wurden ...