97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 40. Tilge deine Fairness-Schulden, den Schattenzwilling der technischen Schulden

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Arnobio Morelix

Chief Innovation Officer, Startup Genome Data Scientist-in-Residence, Inc. Magazin

Technische Schuld ist ein bekanntes Konzept. Er wird verwendet, um spontan erstellten Code zu beschreiben, der kurzfristig seine Hauptaufgabe erfüllt, aber langfristig schwerfällig und ineffizient zu warten und zu skalieren ist. Es ist an der Zeit, dass wir uns auch mit seinem Schattenzwilling vertraut machen: Fairness-Schulden.

Genau wie bei der Technik entsteht eine Fairness-Schuld, wenn wir Systeme bauen, die heute für unsere aktuelle Situation und unseren Nutzerstamm funktionieren, aber unbeabsichtigte Folgen haben, wenn wir die Lösungen morgen weiter einsetzen.

Eine Möglichkeit, eine Fairness-Schuld einzugehen, ist die Optimierung unserer Systeme und Algorithmen für eine bestimmte Leistungskennzahl ohne Einschränkungen. Datenwissenschaftler und Technologen treffen diese Art von Optimierungsentscheidungen bewusst und oft, auch wenn sie naiv sind.

Aber die Optimierung hat oft eine Fairness-Schuld, wenn sie zu ihrem natürlichen Lauf genommen wird. In einem Beitrag von Google Ventures wird z. B. vorgeschlagen, die Zeit zu optimieren, die die Nutzer/innen mit dem ...