97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte

Vorwort

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Die Überschneidung von Ethik und der Welt der Analytik und Datenwissenschaft ist ein Thema, das mich in den letzten Jahren sehr beschäftigt hat. Ich habe eine Reihe von Blogs und Artikeln zu diesem Thema geschrieben. Außerdem habe ich auf zahlreichen öffentlichen Konferenzen und bei vielen privaten Treffen mit Firmenkunden über die Notwendigkeit der Beachtung von Ethik gesprochen. Was ich erörtere, basiert auf meinen konzertierten und kontinuierlichen Bemühungen zu erfahren, was andere über die Ethik der Analytik denken und sagen. Bei diesen Gesprächen erhalte ich auch Feedback, das es mir ermöglicht, meine eigenen Standpunkte weiterzuentwickeln, wenn ich Lücken in meinem Denken erkenne.

In meinen Gesprächen habe ich immer wieder festgestellt, dass die Menschen sehr empfänglich dafür sind, der Ethik mehr Aufmerksamkeit zu schenken, wenn ihnen die Augen dafür geöffnet wurden, dass die Notwendigkeit ethischer Überlegungen viel umfassender und wichtiger ist, als ihnen bewusst ist. Die große Mehrheit der Beispiele, die ich gesehen habe, in denen etwas Unethisches im Zusammenhang mit Analytik und Datenwissenschaft passiert ist, wurde nicht von jemandem mit böser Absicht betrieben. Vielmehr ist es in der Regel so, dass die ethischen Aspekte der Situation einfach nicht gut genug durchdacht wurden, wenn überhaupt.

Als O'Reilly an mich herantrat, um an diesem Projekt mitzuarbeiten, wusste ich, dass ich das tun musste. Ich war begeistert von der Möglichkeit, zu sehen, was Hunderte von anderen Menschen zum Thema Ethik zu sagen hatten. Ich bin der festen Überzeugung, dass wir in dem Maße, in dem mehr solcher Gespräche über Ethik unter den Mitgliedern der Analytik- und Data-Science-Gemeinschaft stattfinden, weitere Fortschritte machen können, um sicherzustellen, dass Analytik und Data Science so ethisch wie möglich durchgeführt werden. Der Schlüssel dazu ist es, die Aufmerksamkeit der Menschen zu wecken, damit sie erkennen, dass sie ethischen Überlegungen die nötige Aufmerksamkeit schenken müssen. Das Ziel dieses Buches ist es, ein Katalysator für diese Sensibilisierung zu sein und den Lesern zu helfen, die Bedeutung einer angemessenen Ethik für analytische und datenwissenschaftliche Initiativen zu verstehen. Die Zusammenstellung der Beiträge, die es in das Buch geschafft haben, war für mich eine enorme Lernerfahrung, und ich hoffe, dass die Leserinnen und Leser das Endergebnis ebenfalls als wertvoll empfinden werden.

Wenn du das Buch liest, wirst du eine große Bandbreite an Meinungen und Schreibstilen finden. Das war beabsichtigt. Wenn zwei Beiträge gegensätzliche Ansichten vertreten, kannst du darüber nachdenken, welche Ansicht du überzeugender findest und warum. Meine Kollegen und ich haben dieses Buch nicht geschrieben, um dir genau zu sagen, was ethisch ist und was nicht. Vielmehr stellt das Buch die Sichtweisen anderer Mitglieder der Gemeinschaft dar, damit du deine eigenen ethischen Richtlinien weiter verfeinern kannst.

Der Titel des Buches lautet 97 Dinge über Ethik, die jeder in der Datenwissenschaft wissen sollte. Wer genau ist "jeder in der Datenwissenschaft"? Diese Beschreibung sollte weit gefasst werden. Jeder, der an der Definition, Erstellung oder Nutzung von Analysen und datenwissenschaftlichen Prozessen beteiligt ist, wird von diesem Buch profitieren. Dazu gehören sowohl Personen in technischen als auch in geschäftlichen Positionen. Auch Studierende oder Personen, die eine berufliche Veränderung in diesem Bereich in Betracht ziehen, werden davon profitieren. Der Inhalt ist jedoch nicht sehr technisch oder schwer zu verstehen. Daher ist dieses Buch auch für Menschen von Nutzen, die einfach nur verstehen wollen, wie Ethik und Datenwissenschaft zusammenhängen, unabhängig von ihrer beruflichen Funktion oder ihrem Bildungshintergrund.

Warum jetzt?

Die Notwendigkeit von Ethik in der Analytik und den Datenwissenschaften war zwar schon immer gegeben, aber einige aktuelle Trends haben dazu beigetragen, dass das Thema endlich in den Vordergrund gerückt ist. Der erste Trend ist das, was ich in meinem Buch The Analytics Revolution (Wiley) thematisiert habe. Wir sind nämlich in eine Ära eingetreten, in der analytische Prozesse vollständig automatisiert und in Entscheidungsprozesse eingebettet werden. Menschen sind jetzt oft nur noch damit beschäftigt, Analyse- und Data-Science-Prozesse zu erstellen und deren Leistung zu überwachen, während die wichtigen Entscheidungen automatisiert werden. Diese Automatisierung hat dazu geführt, dass die Menschen besorgter und misstrauischer darüber sind, was in diesen Prozessen tatsächlich passiert, und das führt schnell zu einer Diskussion über Ethik. Das gilt besonders dann, wenn Modelle in sensiblen Bereichen wie Kreditwürdigkeitsprüfung, Gesundheitswesen oder Risikobewertung eingesetzt werden.

Der zweite Trend, der den Fokus auf Ethik lenkt, ist der Aufstieg der künstlichen Intelligenz (KI). Als Teil des ersten Trends werden nicht nur unzählige KI-Prozesse eingebettet und automatisiert, sondern KI-Prozesse sind auch von Natur aus ziemlich undurchsichtig. Diese Undurchsichtigkeit bereitet den Menschen Unbehagen und zwingt zu Diskussionen darüber, was in den KI-Algorithmen passiert und warum. Das wiederum führt schnell zu einer ethischen Diskussion. Da KI immer ausgefeilter wird und unser Leben täglich beeinflusst, wollen die Menschen wissen, dass sie auf angemessene Weise eingesetzt wird.

Ethik ist "unscharf"

Ethik ist leider viel undurchsichtiger, als wir glauben wollen. Wenn du hundert Menschen fragst: "Ist die ethische Entscheidung in der Regel eindeutig?", werden die meisten schnell mit einem klaren "Ja" antworten. Wenn wir jedoch aufgefordert werden, tiefer über die Frage nachzudenken, wird schnell klar, dass ethische Entscheidungen nicht so eindeutig sind, wie wir es uns einreden. Es ist zwar oft einfach, "die Regel" zu finden, die in einer bestimmten Situation befolgt werden sollte, aber es ist genauso einfach, eine oder mehrere Ausnahmen von dieser Regel zu finden.

Nehmen wir ein relevantes Beispiel aus dem Bereich der Analytik und Datenwissenschaft. Einer der zentralen Punkte der Allgemeinen Datenschutzverordnung der Europäischen Union (GDPR) ist das Recht auf Vergessenwerden. Das bedeutet, dass ich Organisationen mitteilen kann, dass ich nicht mehr möchte, dass sie Daten über mich speichern, und dass sie diese Daten dann löschen müssen. Das klingt sehr eindeutig, nicht wahr? Wenn ich verlange, dass meine Daten gelöscht werden, müssen die Unternehmen dem unter Androhung von Strafe nachkommen.

Nun, so einfach ist das nicht. Es gibt viele Fälle, in denen Ausnahmen aus rechtlicher und/oder ethischer Sicht sinnvoll sind. Was ist, wenn ich eine Garantie für ein Produkt abgeschlossen habe? Wenn ich darum bitte, vergessen zu werden, kann der Hersteller dann gerade genug Informationen aufbewahren, um die Garantie zu bedienen, bis sie abläuft, oder macht mein Antrag auch die Garantie ungültig (da das Unternehmen keine Aufzeichnungen mehr über mich oder meinen Kauf hat)? Ist es ethisch vertretbar, das Gesetz buchstabengetreu zu befolgen oder den Kunden eine Wahl zu lassen, die auf den Kompromissen beruht, die sie vielleicht nicht bedacht haben? Der Punkt ist: Egal wie "klar und eindeutig" die DSGVO oder ein anderes Gesetz auch sein mag, es wird nie alle Situationen berücksichtigen. Ungewöhnliche Situationen erfordern wiederum ein Urteil darüber, was die ethische Vorgehensweise ist.

Betrachten wir als Extremfall eine ethische Richtlinie, die von praktisch jeder Gesellschaft in der Geschichte der Menschheit geteilt wird: Wir sollten keinen anderen Menschen töten. Nur wenige würden behaupten, dass dies keine gute und ethische Regel ist. Allerdings gibt es auch bei dieser allgemein anerkannten Regel viele Ausnahmen. Um nur ein Beispiel zu nennen: Wenn jemand in mein Haus einbricht und versucht, mich zu töten, ist es dann in Ordnung, wenn ich diese Person in Notwehr töte? Die meisten Menschen und Rechtssysteme sagen "ja", und viele haben noch eine Reihe anderer Ausnahmen, wie z. B. Krieg und Todesstrafe. Wenn es für etwas so Klares und Eindeutiges wie "Du sollst nicht töten" Ausnahmen gibt, wie können wir dann nicht erwarten, dass wir bei unserer datenwissenschaftlichen und analytischen Arbeit mit Ausnahmen zu tun haben?

Sobald wir gezwungen sind, zuzugeben, dass es eine Ausnahme von einer Regel gibt oder dass eine Regel nicht eindeutig auf eine bestimmte Situation anwendbar ist, müssen wir überlegen, welche anderen Ausnahmen es geben könnte und ob die Regel in dieser Situation angemessen ist. Dann sind wir gezwungen, ein ethisches Urteil zu fällen. Wir müssen uns darauf konzentrieren, ethische Überlegungen zu berücksichtigen, wenn wir analytische und datenwissenschaftliche Prozesse planen, aufbauen und umsetzen.

Übernimm die Verantwortung für die Ethik!

Die Analytik- und Data-Science-Gemeinschaft muss die Führung übernehmen und die Verantwortung für die Ethik der von uns produzierten Analytik- und Data-Science-Prozesse übernehmen. Im Idealfall kann dieses Buch ein Bezugspunkt auf dem Weg dorthin sein. Aber du kannst nicht einfach machen, was du willst, bis die Rechtsabteilung deines Unternehmens "Stopp" sagt oder ein öffentlicher Aufschrei ertönt. Leider haben unsere Gesetze nicht mit dem Schritt gehalten, was heute möglich ist. Infolgedessen sehen sich Analytik- und Data-Science-Unternehmen oft mit Situationen konfrontiert, in denen eine Handlung zwar standardmäßig legal ist (weil kein Gesetz die Situation regelt), aber dennoch als unethisch angesehen werden könnte. Die Sorgfalt und das Urteilsvermögen der Analytik- und Data-Science-Experten eines Unternehmens sind oft alles, was zwischen einer unethischen Idee und ihrer Umsetzung steht.

Wie in vielen Stellungnahmen in diesem Buch angemahnt wird, sollten Analytik- und Data Science-Organisationen bewusst darauf achten, nur ethische Arbeit zu leisten. Ethikkodizes, Ethik-Prüfungsausschüsse, Meldestellen für Ethikverstöße und andere damit zusammenhängende Ansätze können dazu beitragen, dass eine Organisation auf der Seite des ethischen Handelns bleibt. Wenn du sicherstellst, dass deine Mitarbeiter/innen jeden Tag und bei jedem Projektschritt über ethische Fragen nachdenken, werden unethische Entscheidungen und Handlungen seltener vorkommen. Es ist unmöglich, jedes Mal eine perfekte Entscheidung zu treffen, aber wenn man sich darauf konzentriert, ethisch zu handeln, kann man viele Fortschritte erzielen. Da viele Situationen unklar sind, musst du damit rechnen, dass einige Leute nicht damit einverstanden sind, wo du deine ethischen Grenzen ziehst, egal, wo du sie ziehst. Du solltest also sicherstellen, dass du deine Entscheidungen mit Logik und Überzeugung verteidigen kannst (und dabei völlig transparent bist), wenn sie in Frage gestellt werden.

Wenn du eines aus diesem Buch mitnehmen kannst, dann ist es, dass du nicht darauf warten kannst, dass jemand anderes die Führung übernimmt, wenn es darum geht, sicherzustellen, dass deine Analyse- und Data-Science-Aktivitäten ethisch einwandfrei sind. Du musst selbst die Initiative ergreifen und die Führung übernehmen! Wenn du jeden Tag bewusst über Ethik nachdenkst, kannst du nachts ruhig schlafen und gleichzeitig die Integrität und den Ruf von dir und deinem Unternehmen schützen.

Wie das Buch gegliedert ist

Am häufigsten werden ethische Bedenken geäußert, wenn es um geschlechtsspezifische, ethnische oder andere Vorurteile bei den Modellergebnissen geht. Das ist zwar ein wichtiger Bereich, auf den man sich konzentrieren sollte, aber ethische Überlegungen ziehen sich durch den gesamten Prozess der Entwicklung, des Einsatzes und der Nutzung einer Data Science- oder Analytics-Anwendung. In diesem Buch wird eine Vielzahl interessanter Szenarien und Lösungen diskutiert, die sowohl erwartete als auch unerwartete Bereiche abdecken.

Anstatt einfach 97 Einsendungen auf die Leserinnen und Leser zu werfen, haben wir beschlossen, die Beiträge in einige übergeordnete Themen zu gruppieren. Das hat für dich als Leser einige Vorteile. Erstens kannst du, wenn dich ein bestimmter Aspekt der Ethik am meisten interessiert - z. B. politische Richtlinien - schnell zu diesem Abschnitt wechseln. Zweitens macht es die Anordnung der Beiträge einfacher, die Ansichten zu einem bestimmten Thema zu vergleichen und gegenüberzustellen, da sie in unmittelbarer Nähe zueinander stehen. Jeder Beitrag ist eine eigenständige Meinung, und jeder Abschnitt des Buches ist unabhängig von den anderen. Es ist nicht nötig, das Buch von vorne nach hinten zu lesen. Du kannst einfach zu den Abschnitten und Beiträgen springen, die dich am meisten interessieren.

Die Abschnitte des Buches sind wie folgt:

• Teil I: Erinnert an die wichtigsten ethischen Grundlagen, die wir bei der Anwendung von Ethik auf unsere analytische und datenwissenschaftliche Arbeit berücksichtigen sollten

• Teil II: Verbindet allgemeine gesellschaftliche ethische Normen mit den Anforderungen der Analytik und Datenwissenschaft

• Teil III: Enthält gezielte Diskussionen über die ethischen Aspekte der Sammlung und Nutzung von Daten, die in die Analyse- und Data Science-Prozesse einfließen.

• Teil IV: befasst sich mit der Front-End-Definition dessen, was ein Prozess erreichen soll, und/oder mit der Back-End-Anwendung der Ergebnisse

• Teil V: Bietet Einblicke in die Art und Weise, wie wir das, was ein Prozess tut, verständlich machen und sicherstellen können, dass er im Laufe der Zeit ethisch einwandfrei funktioniert

• Teil VI: Bietet eine Anleitung zur Gestaltung von Maßnahmen, die ethisches Handeln fördern

• Teil VII: Enthält Diskussionen über branchenspezifische oder anwendungsfallbezogene Beispiele

Aufmerksamen Lesern wird auffallen, dass es in diesem Buch 98 Aufsätze gibt und nicht 97, wie der Titel vermuten lässt. Wir hatten so viele gute Einsendungen, dass wir bei der endgültigen Auswahl entschieden haben, dass es besser ist, den Leserinnen und Lesern eine zusätzliche Sichtweise zu bieten, als die Liste auf 97 zu beschränken. Wir glauben, dass du aus allen einen Nutzen ziehen kannst!

Ich hoffe, dass diese Zusammenstellung von Meinungen dir dabei hilft, deine eigenen Analyse- und Data-Science-Initiativen ethisch einwandfrei zu gestalten. Viel Spaß!

-Bill Franks

O'Reilly Online Learning

Hinweis

Seit mehr als 40 Jahren bietet O'Reilly Media Schulungen, Wissen und Einblicke in Technologie und Wirtschaft, um Unternehmen zum Erfolg zu verhelfen.

Unser einzigartiges Netzwerk von Experten und Innovatoren teilt sein Wissen und seine Erfahrung durch Bücher, Artikel und unsere Online-Lernplattform. Die Online-Lernplattform von O'Reilly bietet dir On-Demand-Zugang zu Live-Trainingskursen, ausführlichen Lernpfaden, interaktiven Programmierumgebungen und einer umfangreichen Text- und Videosammlung von O'Reilly und über 200 anderen Verlagen. Weitere Informationen erhältst du unter http://oreilly.com.

Wie du uns kontaktierst

Bitte richte Kommentare und Fragen zu diesem Buch an den Verlag:

• O'Reilly Media, Inc.
• 1005 Gravenstein Highway Nord
• Sebastopol, CA 95472
• 800-998-9938 (in den Vereinigten Staaten oder Kanada)
• 707-829-0515 (international oder lokal)
• 707-829-0104 (Fax)

Wir haben eine Webseite für dieses Buch, auf der wir Errata, Beispiele und zusätzliche Informationen auflisten. Du kannst diese Seite unter https://oreil.ly/97-things-ethics-data-science aufrufen .

Schreib eine E-Mail an [e-mail], um Kommentare oder technische Fragen zu diesem Buch zu stellen.

Neuigkeiten und Informationen über unsere Bücher und Kurse findest du unter http://oreilly.com.

Finde uns auf Facebook: http://facebook.com/oreilly

Folge uns auf Twitter: http://twitter.com/oreillymedia

Schau uns auf YouTube: http://youtube.com/oreillymedia

Danksagungen

Ich möchte mich vor allem bei all denjenigen bedanken, die sich die Zeit genommen haben, Beiträge für das Buch zu schreiben. In Anbetracht des einzigartigen Formats dieses Buches wäre es ohne alle Mitwirkenden buchstäblich nicht zustande gekommen. Ich war sehr beeindruckt von der Breite und Qualität der Beiträge, die wir erhalten haben. Der Erfolg dieses Buches ist in erster Linie auf die Schultern der Autoren zurückzuführen.

Ich möchte auch dem O'Reilly-Team für seine Unterstützung von Anfang bis Ende danken. Nachdem ich gefragt wurde, ob ich als Partner an diesem Projekt mitarbeiten wolle, wurde mir schnell klar, dass ich nicht allein sein würde. Die Unterstützung des Teams bei der Bearbeitung der Einsendungen, der Abstimmung mit allen Autoren und der endgültigen Formatierung war großartig. Mir wurde ein erfahrenes und professionelles Team zugeteilt, das den Prozess so reibungslos wie möglich gestaltete.

Abschließend möchte ich mich bei allen Mitgliedern der Analytik- und Data Science-Community bedanken, die zu den Diskussionen über Ethik beigetragen haben, die meine eigenen Ansichten geprägt haben, und die sicherlich auch die Ansichten der Autoren dieses Buches geprägt haben. Ohne den intensiven Dialog, der in der Community stattgefunden hat, wären die Ideen in diesem Buch nicht so gut ausgearbeitet und vollständig, wie sie sind.