97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 12. Unvoreingenommen ≠ Fair: Bei Data Science kann es nicht nur um die Mathematik gehen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Doug Hague

Geschäftsführender Direktor der School of Data Science an der UNC Charlotte

Als ich über die ethischen Implikationen der Datenwissenschaft nachgedacht habe, ist mir eines ganz klar geworden: Datenwissenschaftler/innen mögen Mathe! Das ist keine große Überraschung. Aber bei unserer Arbeit, bei der wir Modelle erstellen und großartige Vorhersagen machen, neigen wir dazu, die Diskussion über Ethik auf mathematische Begriffe zu reduzieren. Ist meine Vorhersage für kaukasische Amerikaner dieselbe wie für Afroamerikaner? Sind Vorhersagen für Frauen gleichwertig mit denen für Männer? Wir entwickeln Konfusionsmatrizen und messen die Genauigkeit unserer Vorhersagen. Vielleicht ist auch die Sensitivität (wahrer positiver Anteil) oder die Spezifität (wahrer negativer Anteil) wichtig, so dass wir dies für verschiedene Untergruppen abwägen. Leider haben Mathematiker gezeigt, dass wir zwar in der Lage sind, die Genauigkeit, die Spezifität oder andere Maßzahlen für die Verzerrung von realen Datensätzen auszugleichen, aber wir können sie nicht alle ausgleichen und vollkommen unverzerrte Modelle erstellen. Wir tun also das Beste, was wir innerhalb des uns zur ...