97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 46. Auf dem Weg zu wertorientiertem maschinellem Lernen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Ron Bodkin

Büro des CTO, Google Cloud

Maschinelles Lernen (ML) ist aus vielen Aspekten des modernen Lebens nicht mehr wegzudenken, da sich digitale Erlebnisse immer weiter ausbreiten und wir uns zunehmend auf automatisierte Algorithmen verlassen, um Inhalte zu entdecken, zu kuratieren und unsere Entscheidungen in so unterschiedlichen Bereichen wie Unterhaltung (z. B. Medium und TikTok), Kommunikation (Slack und Gmail), Navigation (Google Maps) und Shopping (Amazon und Stitch Fix) zu treffen.

ML wird oft als wertneutrale Technologie und als objektiv betrachtet, die nicht mit Werten verbunden oder von ihnen abhängig ist. In Wirklichkeit ist ML aber ein Werkzeug - und wie jedes Werkzeug basiert seine Nutzung auf Werten, und die Folgen, die es hat, beeinflussen unsere Werte.

Ich bin seit 2007 für die Anwendung von ML auf reale Probleme verantwortlich und habe immer wieder festgestellt, dass der Einsatz von ML zu unbeabsichtigten Konsequenzen führt. Ähnlich wie ein böser Geist gewähren ML-Modelle oft genau das, was du dir wünschst (optimiere, was du angibst), aber nicht das, was du wirklich beabsichtigst. Vor zehn Jahren, als ich Vice President of Engineering bei Quantcast war, mussten wir ...