97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Kapitel 8. Sei vorsichtig mit "Entscheidungen des Herzens"

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Hugh Watson

Professor für MIS, Terry College of Business, University of Georgia

Heute nutzen Unternehmen und Behörden zunehmend fortschrittliche Analysen wie Deep Learning, um die Entscheidungsfindung teilweise oder vollständig zu automatisieren. Die Analytik wird eingesetzt, um Kreditentscheidungen zu treffen, Bewährungs- oder Gefängnisstrafen zu empfehlen, Stellenbewerber zu prüfen und vieles mehr. Obwohl diese Algorithmen zu schnelleren, billigeren, effizienteren und sogar gerechteren Entscheidungen führen können, sind sie nicht ohne Risiko. Cathy O'Neil und andere argumentieren in ihrem einflussreichen Buch Weapons of Math Destruction (Crown), dass Algorithmen die Ungleichheit verstärken, Dienstleistungen und Chancen verweigern und sogar die Demokratie bedrohen können.

Das Gespräch zwischen dem Blechmann und der Vogelscheuche in The Wonderful Wizard of Oz von L. Frank Baum bietet eine interessante Perspektive auf die Notwendigkeit, bei der Automatisierung von Entscheidungen nicht nur den Verstand, sondern auch das "Herz" einzubeziehen:

"Ich weiß nicht genug", antwortete die Vogelscheuche fröhlich. "Mein Kopf ist mit Stroh ausgestopft, und deshalb gehe ich zu Oz, um ihn um etwas Verstand ...