97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 51. Algorithmische Fehlklassifizierung - das(ziemlich) Gute, das Schlechte und das Hässliche

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Arnobio Morelix

Chief Innovation Officer, Startup Genome Data Scientist-in-Residence, Inc. Magazin

Jeden Tag klassifizieren die Systeme, die wir aufbauen, die Identität und das Verhalten von Menschen ohne Unterlass. Eine Kreditkartentransaktion wird als "betrügerisch" eingestuft oder nicht. Politische Kampagnen entscheiden über "wahrscheinliche Wähler" für ihren Kandidaten. Menschen behaupten ständig, dass sie "kein Roboter" sind, und werden durch Captchas daraufhin beurteilt. Nimmt man noch die Klassifizierung von E-Mails, die Gesichtserkennung in Handys und gezielte Werbung hinzu, kann man sich leicht vorstellen, dass selbst eine einzige Person täglich Tausende solcher Klassifizierungen vornimmt.

In den meisten Fällen sind diese Klassifizierungen bequem und ziemlich gut für die Nutzer und die Organisationen, die sie anwenden. Wir vergessen sie meistens, es sei denn, sie gehen offensichtlich schief.

Ich bin ein Latino, der in den USA lebt, und bekomme oft Werbung auf Spanisch - das wäre ein gutes Targeting, aber ich bin ein brasilianischer Latino und meine Muttersprache ist Portugiesisch, nicht Spanisch.

Diese spezielle Fehlklassifizierung schadet ...