97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 9. Fairness im Zeitalter der Algorithmen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Anna Jacobson

Kandidat für den Master in Data Science, UC Berkeley

Von allen spannenden Entwicklungen im Bereich der Datenwissenschaft ist der maschinelle Lernalgorithmus (MLA) eine der am meisten beachteten Neuerungen - und für viele der zukunftsträchtigste Bereich der Datenwissenschaft. Doch wie alle mächtigen Technologien bergen auch MLAs das Risiko, zu einer zerstörerischen Kraft in der Welt zu werden.

Zu den ersten Anwendungen von MLAs gehörten die Filterung von E-Mail-Spam, Bilderkennung und Empfehlungssysteme für die Unterhaltung. Bei diesen Anwendungen mit geringem Risiko sind die Kosten von Fehlern gering und stellen in der Regel höchstens eine kleine Unannehmlichkeit dar. Die Kosten von Fehlern in MLAs sind jedoch dramatisch gestiegen, seit sie auf Menschen angewendet werden, z. B. bei der vorausschauenden Polizeiarbeit. Trotz des scheinbar objektiven Trainings von MLAs entstehen manchmal Algorithmen, die zwar rechnerisch korrekt sind, aber aus menschlicher Sicht verzerrte und ungerechte Ergebnisse liefern. Und in Situationen, in denen viel auf dem Spiel steht, können MLAs, die ungerechte Ergebnisse liefern, enormen Schaden anrichten.

Fairness ist ein schwer zu fassendes Konzept. In der ...