97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 63. Ein Rahmen für das Ethikmanagement in der Datenwissenschaft: Modell-Risikomanagement

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Doug Hague

Geschäftsführender Direktor der School of Data Science an der UNC Charlotte

Da Datenwissenschaftler/innen daran arbeiten, die Ethik und die Auswirkungen ihrer Modelle zu verstehen, wird ein Managementrahmen benötigt. Glücklicherweise lässt sich der aus der Finanzdienstleistungsbranche stammende Rahmen für das Modellrisikomanagement (MRM) auf die Ethik ausweiten. Modelle aus verschiedenen Branchen, wie z. B. Lebenslauf-Screener, Rückfallmodelle und Zahlungsmodelle für das Gesundheitswesen, können gegenüber verschiedenen Nutzern oder geschützten Gruppen voreingenommen sein und haben jedem Unternehmen, das sie einsetzt, eine schlechte Publicity eingebracht. Wenn Datenwissenschaftler/innen Methoden zum Umgang mit Vorurteilen entwickeln, kann MRM nützlich sein, um bewährte Methoden zu dokumentieren und sicherzustellen, dass sie eingehalten werden. Ich konzentriere mich hier auf die Anwendung von MRM-Prozessen auf mathematische Verzerrungen eines Modells, aber der MRM-Rahmen ist auch anwendbar, wenn man ihn auf Fairness und die allgemeinen ethischen Implikationen der Datenwissenschaft ausweitet.

Einfach ausgedrückt, ist MRM ein Prozess, der die ...