Kapitel 4. Technik für Gerechtigkeit

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com

Geschrieben von Demma Rodriguez

Herausgegeben von Riona MacNamara

In früheren Kapiteln haben wir den Gegensatz zwischen der Programmierung als der Produktion von Code, der das aktuelle Problem löst, und der Softwareentwicklung als der breiteren Anwendung von Code, Werkzeugen, Richtlinien und Prozessen auf ein dynamisches und mehrdeutiges Problem, das sich über Jahrzehnte oder sogar ein ganzes Leben erstrecken kann, untersucht. In diesem Kapitel werden wir die besondere Verantwortung eines Ingenieurs bei der Entwicklung von Produkten für eine breite Nutzerbasis diskutieren. Außerdem untersuchen wir, wie ein Unternehmen durch die Berücksichtigung von Vielfalt Systeme entwickeln kann, die für alle funktionieren, und wie es vermeiden kann, dass die Nutzerinnen und Nutzer zu Schaden kommen.

So neu der Bereich der Softwareentwicklung auch ist, so neu ist auch das Verständnis für die Auswirkungen auf unterrepräsentierte Menschen und eine vielfältige Gesellschaft. Wir haben dieses Kapitel nicht geschrieben, weil wir alle Antworten kennen. Das tun wir nicht. Google muss erst noch lernen, wie man Produkte entwickelt, die alle Nutzerinnen und Nutzer unterstützen und respektieren. Wir haben beim Schutz unserer schwächsten Nutzerinnen und Nutzer viele Fehler gemacht und schreiben dieses Kapitel, weil der Weg zu gerechteren Produkten damit beginnt, dass wir unsere eigenen Fehler auswerten und Wachstum fördern.

Wir schreiben dieses Kapitel auch wegen des zunehmenden Machtungleichgewichts zwischen denjenigen, die Entwicklungsentscheidungen treffen, die Auswirkungen auf die Welt haben, und denjenigen, die diese Entscheidungen, die manchmal bereits marginalisierte Gemeinschaften weltweit benachteiligen, einfach akzeptieren und damit leben müssen. Es ist wichtig, dass wir das, was wir bisher gelernt haben, mit der nächsten Generation von Softwareentwicklern teilen und darüber nachdenken. Noch wichtiger ist es, dass wir die nächste Generation von Ingenieurinnen und Ingenieuren dabei unterstützen, besser zu werden als wir es heute sind.

Wenn du dieses Buch in die Hand nimmst, bedeutet das wahrscheinlich, dass du ein außergewöhnlicher Ingenieur sein willst. Du willst Probleme lösen. Du willst Produkte entwickeln, die positive Ergebnisse für möglichst viele Menschen bringen, auch für die, die am schwierigsten zu erreichen sind. Um das zu erreichen, musst du dir Gedanken darüber machen, wie die Werkzeuge, die du entwickelst, eingesetzt werden können, um den Lauf der Menschheit zu verändern - hoffentlich zum Besseren.

Voreingenommenheit ist der Standard

When engineers do not focus on users of different nationalities, ethnicities, races, genders, ages, socioeconomic statuses, abilities, and belief systems, even the most talented staff will inadvertently fail their users. Solche Fehler sind oft unbeabsichtigt; alle Menschen haben bestimmte Vorurteile, und Sozialwissenschaftler haben in den letzten Jahrzehnten erkannt, dass die meisten Menschen unbewusste Vorurteile haben und bestehende Stereotypen verstärken und verbreiten. Unbewusste Vorurteile sind heimtückisch und oft schwieriger abzumildern als absichtliche Ausgrenzungshandlungen. Selbst wenn wir das Richtige tun wollen, erkennen wir vielleicht unsere eigenen Vorurteile nicht. Umgekehrt müssen auch unsere Organisationen erkennen, dass es solche Vorurteile gibt, und daran arbeiten, sie in ihren Belegschaften, bei der Produktentwicklung und der Nutzeransprache zu beseitigen.

Aufgrund von Voreingenommenheit hat Google in den letzten Jahren bei der Einführung von Produkten, die sich nicht ausreichend auf unterrepräsentierte Gruppen konzentrierten, manchmal fehlgeschlagen, um die Nutzerinnen und Nutzer gleichberechtigt zu vertreten. Viele Nutzerinnen und Nutzer führen unser mangelndes Bewusstsein in diesen Fällen auf die Tatsache zurück, dass unsere Ingenieurinnen und Ingenieure meist männlich, meist weiß oder asiatisch sind und sicherlich nicht repräsentativ für alle Gemeinschaften, die unsere Produkte nutzen. Die mangelnde Repräsentanz solcher Nutzer in unserer Belegschaft1 bedeutet, dass wir oft nicht über die nötige Vielfalt verfügen, um zu verstehen, wie sich die Nutzung unserer Produkte auf unterrepräsentierte oder gefährdete Nutzer/innen auswirken kann.

In diesem Beispiel war unser Produkt unzureichend konzipiert und ausgeführt, da es nicht alle Rassengruppen berücksichtigte, was dazu führte, dass unsere Nutzer fehlschlugen und Google schlechte Presse bekam. Andere Technologien weisen ähnliche Fehler auf: Die automatische Vervollständigung kann beleidigende oder rassistische Ergebnisse liefern. Das Anzeigensystem von Google kann so manipuliert werden, dass rassistische oder beleidigende Anzeigen geschaltet werden. YouTube fängt Hassreden möglicherweise nicht auf, obwohl sie auf dieser Plattform eigentlich verboten sind.

In all diesen Fällen liegt die Schuld nicht bei der Technologie selbst. Die Autovervollständigung wurde zum Beispiel nicht entwickelt, um Nutzer/innen anzusprechen oder zu diskriminieren. Aber sie war auch nicht robust genug, um diskriminierende Sprache, die als Hassrede gilt, auszuschließen. Infolgedessen lieferte der Algorithmus Ergebnisse, die unseren Nutzern Schaden zufügten. Der Schaden für Google selbst sollte ebenfalls offensichtlich sein: Das Vertrauen der Nutzer/innen und ihr Engagement für das Unternehmen sinken. Schwarze, lateinamerikanische und jüdische Bewerberinnen und Bewerber könnten zum Beispiel das Vertrauen in Google als Plattform oder sogar als integratives Umfeld verlieren und damit das Ziel von Google, die Repräsentativität bei Einstellungen zu verbessern, untergraben.

Wie konnte das passieren? Schließlich stellt Google Technologen mit tadelloser Ausbildung und/oder Berufserfahrung ein - außergewöhnliche Programmierer, die den besten Code schreiben und ihre Arbeit testen. "Bauen für alle" ist ein Markenzeichen von Google, aber die Wahrheit ist, dass wir noch einen langen Weg vor uns haben, bevor wir behaupten können, dass wir das tun. Eine Möglichkeit, diese Probleme anzugehen, besteht darin, die Softwareentwicklung selbst so zu gestalten, dass sie den Menschen ähnelt, für die wir Produkte entwickeln.

Die Notwendigkeit von Vielfalt verstehen

Wir bei Google sind der Meinung, dass man sich als hervorragender Ingenieur auch darauf konzentrieren muss, unterschiedliche Perspektiven in die Produktentwicklung und -umsetzung einzubringen. Das bedeutet auch, dass Googler, die für die Einstellung oder Befragung anderer Ingenieure verantwortlich sind, dazu beitragen müssen, eine repräsentativere Belegschaft aufzubauen. Wenn du zum Beispiel andere Ingenieurinnen und Ingenieure für Positionen in deinem Unternehmen interviewst, ist es wichtig zu lernen, wie es bei der Einstellung zu voreingenommenen Ergebnissen kommt. Es gibt wichtige Voraussetzungen, um zu verstehen, wie man Schaden vorhersehen und verhindern kann. Um den Punkt zu erreichen, an dem wir für alle bauen können, müssen wir zuerst unsere repräsentativen Bevölkerungsgruppen verstehen. Wir müssen Ingenieure dazu ermutigen, eine breitere Ausbildung zu absolvieren.

Als Erstes gilt es, mit der Vorstellung aufzuräumen, dass du als Person mit einem Informatikabschluss und/oder Berufserfahrung alle Fähigkeiten hast, die du brauchst, um ein hervorragender Ingenieur zu werden. Ein Informatikstudium ist oft eine notwendige Grundlage. Aber der Abschluss allein (auch in Verbindung mit Berufserfahrung) macht dich noch nicht zum Ingenieur. Es ist auch wichtig, mit der Vorstellung aufzuräumen, dass nur Menschen mit einem Informatikabschluss Produkte entwerfen und bauen können. Heutzutage haben die meisten Programmierer/innen einen Abschluss in Informatik; sie sind erfolgreich darin, Code zu erstellen, Veränderungstheorien aufzustellen und Methoden zur Problemlösung anzuwenden. Wie die oben genannten Beispiele zeigen, ist dieser Ansatz jedoch unzureichend für eine inklusive und gerechte Entwicklung.

Ingenieurinnen und Ingenieure sollten ihre Arbeit zunächst auf das gesamte Ökosystem ausrichten, das sie beeinflussen wollen. Zumindest müssen sie die demografische Zusammensetzung ihrer Nutzer/innen verstehen. Ingenieurinnen und Ingenieure sollten sich auf Menschen konzentrieren, die anders sind als sie selbst, insbesondere auf Menschen, die versuchen könnten, mit ihren Produkten Schaden anzurichten. Am schwierigsten ist es, diejenigen zu berücksichtigen, die von den Prozessen und der Umgebung, in der sie auf die Technologie zugreifen, entrechtet werden. Um diese Herausforderung zu meistern, müssen die Entwicklungsteams ihre bestehenden und zukünftigen Nutzer/innen repräsentieren. Wenn die Vielfalt in den Teams nicht vertreten ist, müssen die einzelnen Ingenieurinnen und Ingenieure lernen, wie sie für alle Nutzerinnen und Nutzer bauen können.

Aufbau multikultureller Kapazitäten

Ein herausragendes Merkmal eines Ingenieurs ist die Fähigkeit zu verstehen, wie Produkte verschiedenen Gruppen von Menschen Vorteile und Nachteile bringen können. Von Ingenieurinnen und Ingenieuren wird erwartet, dass sie technisch begabt sind, aber sie sollten auch über das nötige Urteilsvermögen verfügen, um zu wissen, wann sie etwas bauen sollten und wann nicht. Zu diesem Urteilsvermögen gehört auch die Fähigkeit, Merkmale oder Produkte zu erkennen und abzulehnen, die zu negativen Ergebnissen führen. Das ist ein hochgestecktes und schwieriges Ziel, denn es gehört eine Menge Individualität dazu, ein leistungsstarker Ingenieur zu sein. Doch um erfolgreich zu sein, müssen wir unseren Blick über unsere eigenen Gemeinschaften hinaus auf die nächste Milliarde Nutzer/innen oder auf die derzeitigen Nutzer/innen richten, die durch unsere Produkte entrechtet oder zurückgelassen werden könnten.

Im Laufe der Zeit könntest du Werkzeuge entwickeln, die Milliarden von Menschen täglich nutzen - Werkzeuge, die beeinflussen, wie Menschen über den Wert eines Menschenlebens denken, Werkzeuge, die menschliche Aktivitäten überwachen, und Werkzeuge, die sensible Daten wie Bilder ihrer Kinder und Angehörigen sowie andere Arten von sensiblen Daten erfassen und aufbewahren. Als Ingenieur/in hast du vielleicht mehr Macht, als du denkst: die Macht, die Gesellschaft buchstäblich zu verändern. Auf deinem Weg zu einer herausragenden Ingenieurin oder einem herausragenden Ingenieur ist es wichtig, dass du dir über die Verantwortung im Klaren bist, die du übernehmen musst, um deine Macht auszuüben, ohne Schaden anzurichten. Der erste Schritt besteht darin, zu erkennen, dass du aufgrund vieler gesellschaftlicher und erzieherischer Faktoren voreingenommen bist. Wenn du das erkannt hast, kannst du die oft vergessenen Anwendungsfälle oder Nutzer/innen berücksichtigen, die von den Produkten, die du baust, profitieren oder geschädigt werden können.

Die Branche schreitet weiter voran und entwickelt in immer schnellerem Tempo neue Anwendungsfälle für künstliche Intelligenz (KI) und maschinelles Lernen. Um wettbewerbsfähig zu bleiben, streben wir nach Größe und Effektivität beim Aufbau hochqualifizierter Arbeitskräfte in den Bereichen Technik und Technologie. Wir müssen jedoch innehalten und bedenken, dass heute einige Menschen die Fähigkeit haben, die Zukunft der Technologie zu gestalten, und andere nicht. Wir müssen uns darüber im Klaren sein, ob die Softwaresysteme, die wir aufbauen, das Potenzial ganzer Bevölkerungsgruppen, gemeinsamen Wohlstand zu erleben und gleichberechtigten Zugang zu Technologie zu erhalten, ausschalten.

In der Vergangenheit haben sich Unternehmen, die vor der Entscheidung standen, ein strategisches Ziel zu erreichen, das die Marktdominanz und den Umsatz steigert, für Geschwindigkeit und Shareholder Value entschieden. Diese Tendenz wird dadurch verschärft, dass viele Unternehmen zwar Wert auf individuelle Leistung und Spitzenleistungen legen, es ihnen aber oft misslingt, die Verantwortlichkeit für die Produktgerechtigkeit in allen Bereichen wirksam zu fördern. Die Fokussierung auf unterrepräsentierte Nutzer/innen ist eine klare Möglichkeit, die Gerechtigkeit zu fördern. Um im Technologiesektor weiterhin wettbewerbsfähig zu sein, müssen wir lernen, für globale Gerechtigkeit zu sorgen.

Heute machen wir uns Sorgen, wenn Unternehmen Technologien entwickeln, um Menschen auf der Straße zu scannen, zu erfassen und zu identifizieren. Wir sorgen uns um den Datenschutz und darum, wie Regierungen diese Informationen jetzt und in Zukunft nutzen könnten. Doch die meisten Technologen haben nicht die nötige Perspektive der unterrepräsentierten Gruppen, um die Auswirkungen der rassischen Unterschiede bei der Gesichtserkennung zu verstehen oder um zu erkennen, wie die Anwendung von KI zu schädlichen und ungenauen Ergebnissen führen kann.

Derzeit werden People of Color oder ethnische Minderheiten durch KI-gestützte Gesichtserkennungssoftware immer noch benachteiligt. Unsere Forschung ist nicht umfassend genug und umfasst nicht genügend verschiedene Hautfarben. Wir können nicht erwarten, dass die Ergebnisse gültig sind, wenn sowohl die Trainingsdaten als auch die Entwickler der Software nur einen kleinen Teil der Menschen repräsentieren. In solchen Fällen sollten wir bereit sein, die Entwicklung zu verzögern, um vollständigere und genauere Daten und ein umfassenderes und inklusiveres Produkt zu erhalten.

Die Auswertung der Datenwissenschaft selbst ist für Menschen jedoch eine Herausforderung. Selbst wenn wir eine Repräsentation haben, kann ein Trainingsset immer noch verzerrt sein und ungültige Ergebnisse liefern. Eine Studie von aus dem Jahr 2016 hat ergeben, dass mehr als 117 Millionen erwachsene Amerikaner in einer Datenbank zur Gesichtserkennung von Strafverfolgungsbehörden gespeichert sind.5 Aufgrund der überproportionalen polizeilichen Überwachung schwarzer Gemeinschaften und der ungleichen Ergebnisse bei Verhaftungen könnte es bei der Verwendung einer solchen Datenbank für die Gesichtserkennung zu rassistisch bedingten Fehlerquoten kommen. Obwohl die Software immer schneller entwickelt und eingesetzt wird, werden die unabhängigen Tests nicht durchgeführt. Um diesen ungeheuerlichen Fehltritt zu korrigieren, müssen wir die Integrität besitzen, langsam zu machen und sicherzustellen, dass unsere Eingaben so wenig Voreingenommenheit wie möglich enthalten. Google bietet jetzt statistisches Training im Rahmen der KI an, um sicherzustellen, dass die Datensätze nicht von vornherein verzerrt sind.

Daher liegt es nicht nur in deiner Verantwortung, sondern auch in der Verantwortung deines Arbeitgebers, den Schwerpunkt deiner Branchenerfahrung auf eine umfassendere, multikulturelle, Ethnie- und Gender-Studies-Ausbildung zu verlagern . Technologieunternehmen müssen dafür sorgen, dass ihre Mitarbeiter/innen kontinuierlich weitergebildet werden und dass diese Weiterbildung umfassend und multidisziplinär ist. Es geht nicht darum, dass ein Einzelner es auf sich nimmt, sich über andere Kulturen oder andere Demografien zu informieren. Der Wandel erfordert, dass jeder von uns, ob als Einzelperson oder als Leiter/in eines Teams, in eine kontinuierliche berufliche Weiterbildung investiert, die nicht nur unsere Software-Entwicklungs- und Führungskompetenzen ausbaut, sondern auch unsere Fähigkeit, die vielfältigen Erfahrungen der Menschheit zu verstehen.

Vielfalt erlebbar machen

Systemische Gerechtigkeit und Fairness sind erreichbar, wenn wir bereit sind zu akzeptieren, dass wir alle für die systemische Diskriminierung, die wir im Technologiesektor sehen, verantwortlich sind. Wir sind für das Versagen des Systems verantwortlich. Die persönliche Verantwortung aufzuschieben oder davon zu abstrahieren, ist ineffektiv und kann, je nach Rolle, sogar unverantwortlich sein. Es ist auch unverantwortlich, die Dynamik in deinem Unternehmen oder innerhalb deines Teams vollständig auf die größeren gesellschaftlichen Probleme zurückzuführen, die zur Ungleichheit beitragen. Ein beliebter Satz bei Befürwortern und Gegnern von Vielfalt geht in etwa so: "Wir arbeiten hart daran, (Thema der systemischen Diskriminierung einfügen) zu beseitigen, aber es ist schwer, Rechenschaft abzulegen. Wie bekämpfen wir (hunderte von Jahren) historische Diskriminierung?" Diese Fragestellung ist ein Umweg über eine eher philosophische oder akademische Diskussion und führt weg von gezielten Bemühungen zur Verbesserung der Arbeitsbedingungen oder Ergebnisse. Der Aufbau multikultureller Kapazitäten erfordert ein umfassenderes Verständnis dafür, wie sich Systeme der Ungleichheit in der Gesellschaft auf den Arbeitsplatz auswirken, insbesondere im Technologiesektor.

Wenn du ein Manager in der Technik bist, der mehr Menschen aus unterrepräsentierten Gruppen einstellen will, ist es eine nützliche akademische Übung, sich mit den historischen Auswirkungen von Diskriminierung in der Welt zu befassen. Es ist jedoch wichtig, über die akademische Diskussion hinauszugehen und sich auf quantifizierbare und umsetzbare Schritte zu konzentrieren, die du unternehmen kannst, um Gerechtigkeit und Fairness zu fördern. Als einstellende/r Manager/in für Softwareentwicklung bist du zum Beispiel dafür verantwortlich, dass deine Kandidatenlisten ausgewogen sind. Gibt es Frauen oder andere unterrepräsentierte Gruppen in den Bewertungen der Bewerber? Wenn du jemanden einstellst, welche Entwicklungsmöglichkeiten hast du ihm geboten, und sind diese gerecht verteilt? Jeder Verantwortliche für Technik oder Softwareentwicklung hat die Möglichkeit, die Chancengleichheit in seinem Team zu erhöhen. Es ist wichtig, dass wir anerkennen, dass wir alle Teil des Systems sind, obwohl es erhebliche systemische Herausforderungen gibt. Es ist unser Problem, das wir lösen müssen.

Singuläre Ansätze ablehnen

Wir können nicht an Lösungen festhalten, die eine einzige Philosophie oder Methode zur Beseitigung von Ungerechtigkeiten im Technologiesektor präsentieren. Unsere Probleme sind komplex und multifaktoriell. Deshalb müssen wir uns von einzelnen Ansätzen zur Förderung der Repräsentation am Arbeitsplatz verabschieden, auch wenn sie von Menschen vertreten werden, die wir bewundern oder die institutionelle Macht haben.

In der Technologiebranche herrscht die Meinung vor, dass die mangelnde Repräsentanz in der Belegschaft nur durch die Verbesserung der Einstellungspolitik gelöst werden kann. Ja, das ist ein wichtiger Schritt, aber das ist nicht das unmittelbare Problem, das wir lösen müssen. Wir müssen die systembedingte Ungleichheit beim Aufstieg und bei der Weiterbeschäftigung erkennen und uns gleichzeitig auf repräsentative Einstellungen und Bildungsunterschiede konzentrieren, zum Beispiel in Bezug auf Ethnie, Geschlecht, sozioökonomischen Status und Einwanderung.

In der Technologiebranche werden täglich viele Menschen aus unterrepräsentierten Gruppen übergangen, wenn es um Chancen und Aufstiegsmöglichkeiten geht. Die Fluktuation unter schwarzen+ Google-Mitarbeitern übersteigt die aller anderen Gruppen und macht Fortschritte bei der Umsetzung der Repräsentationsziele zunichte. Wenn wir den Wandel vorantreiben und die Repräsentanz erhöhen wollen, müssen wir prüfen, ob wir ein Ökosystem schaffen, in dem sich alle angehenden Ingenieure und andere Technologiefachleute entfalten können.

Um herauszufinden, wie man ein Problem lösen kann, ist es wichtig, den gesamten Problembereich zu verstehen. Das gilt für alles, von einer wichtigen Datenmigration bis hin zur Einstellung einer repräsentativen Belegschaft. Wenn du zum Beispiel als technischer Leiter mehr Frauen einstellen möchtest, solltest du dich nicht nur auf den Aufbau einer Pipeline konzentrieren. Konzentriere dich auf andere Aspekte des Einstellungs-, Bindungs- und Aufstiegssystems und darauf, wie integrativ es für Frauen ist oder nicht. Überlege, ob deine Personalverantwortlichen in der Lage sind, sowohl weibliche als auch männliche Bewerber zu identifizieren. Wenn du ein vielfältiges Ingenieurteam leitest, konzentriere dich auf die psychologische Sicherheit und investiere in den Ausbau der multikulturellen Kapazitäten im Team, damit sich neue Teammitglieder willkommen fühlen.

Eine gängige Methode ist es, zuerst für die meisten Anwendungsfälle zu bauen und Verbesserungen und Funktionen für die Kantenfälle auf später zu verschieben. Dieser Ansatz ist jedoch fehlerhaft, denn er verschafft den Nutzern, die bereits einen Vorteil beim Zugang zur Technologie haben, einen Vorsprung, was die Ungleichheit verstärkt. Wenn die Berücksichtigung aller Nutzergruppen erst dann erfolgt, wenn die Entwicklung fast abgeschlossen ist, wird die Messlatte für einen exzellenten Ingenieur niedriger gelegt. Wenn wir stattdessen von Anfang an ein inklusives Design einbauen und die Standards für die Entwicklung anheben, um die Werkzeuge für Menschen, die Schwierigkeiten beim Zugang zur Technologie haben, angenehm und zugänglich zu machen, verbessern wir das Erlebnis für alle Nutzer.

Für den Nutzer zu entwerfen, der dir am wenigsten gleicht, ist nicht nur klug, sondern eine bewährte Methode. Es gibt pragmatische und unmittelbare nächste Schritte, die alle Technologen und Technologinnen, unabhängig von ihrem Fachgebiet, bei der Entwicklung von Produkten berücksichtigen sollten, um eine Benachteiligung oder Unterrepräsentation der Nutzer/innen zu vermeiden. Es beginnt mit einer umfassenderen Untersuchung der Nutzererfahrungen. Diese Forschung sollte mit mehrsprachigen und multikulturellen Nutzergruppen durchgeführt werden, die mehrere Länder, sozioökonomische Schichten, Fähigkeiten und Altersgruppen umfassen. Konzentriere dich zuerst auf den schwierigsten oder am wenigsten vertretenen Anwendungsfall.

Etablierte Prozesse in Frage stellen

Die Herausforderung, gerechtere Systeme zu schaffen, geht über die Entwicklung inklusiverer Produktspezifikationen hinaus. Gerechte Systeme zu schaffen bedeutet manchmal, etablierte Prozesse in Frage zu stellen, die zu ungültigen Ergebnissen führen.

Betrachte einen aktuellen Fall, der auf seine Auswirkungen auf die Gleichberechtigung untersucht wurde. Bei Google arbeiteten mehrere Ingenieurteams daran, ein globales System für Einstellungsanfragen zu entwickeln. Das System unterstützt sowohl externe Einstellungen als auch interne Mobilität. Die beteiligten Ingenieure und Produktmanager hatten ein offenes Ohr für die Wünsche ihrer Hauptnutzergruppe: der Personalvermittler. Die Recruiter waren darauf bedacht, den Zeitaufwand für Personalverantwortliche und Bewerber so gering wie möglich zu halten, und sie präsentierten dem Entwicklungsteam Anwendungsfälle, die sich auf Skalierbarkeit und Effizienz für diese Menschen konzentrierten. Um die Effizienz zu steigern, baten die Recruiter das Entwicklungsteam, eine Funktion einzubauen, die den Personalverantwortlichen und Recruitern Leistungsbewertungen - insbesondere niedrigere Bewertungen - anzeigt, sobald ein interner Wechsel Interesse an einer Stelle bekundet.

Auf den ersten Blick ist es ein großartiges Ziel, den Bewertungsprozess zu beschleunigen und den Arbeitssuchenden zu helfen, Zeit zu sparen. Doch wo liegen die potenziellen Gerechtigkeitsbedenken? Die folgenden Gerechtigkeitsfragen wurden aufgeworfen:

  • Sind Entwicklungsbeurteilungen ein prädiktiver Maßstab für die Leistung?

  • Sind die Leistungsbeurteilungen, die den angehenden Führungskräften vorgelegt werden, frei von individuellen Vorurteilen?

  • Sind die Ergebnisse der Leistungsbeurteilung in allen Unternehmen einheitlich?

Wenn die Antwort auf eine dieser Fragen "nein" lautet, könnte die Darstellung von Leistungsbewertungen immer noch zu ungleichen und damit ungültigen Ergebnissen führen.

Als ein hervorragender Ingenieur in Frage stellte, ob die vergangene Leistung tatsächlich eine Vorhersage für die zukünftige Leistung war, beschloss das Prüfungsteam, eine gründliche Überprüfung durchzuführen. Am Ende wurde festgestellt, dass Kandidaten, die eine schlechte Leistungsbewertung erhalten hatten, die schlechte Bewertung wahrscheinlich überwinden würden, wenn sie ein neues Team finden würden. Tatsächlich war es genauso wahrscheinlich, dass sie eine zufriedenstellende oder vorbildliche Leistungsbewertung erhalten würden wie Bewerber/innen, die nie eine schlechte Bewertung erhalten hatten. Kurz gesagt: Leistungsbewertungen geben nur Aufschluss darüber, wie eine Person zum Zeitpunkt der Bewertung in ihrer jeweiligen Rolle abschneidet. Bewertungen sind zwar ein wichtiges Mittel, um die Leistung während eines bestimmten Zeitraums zu messen, aber sie sagen nichts über die zukünftige Leistung aus und sollten nicht dazu verwendet werden, die Bereitschaft für eine zukünftige Rolle zu beurteilen oder einen internen Kandidaten für ein anderes Team zu qualifizieren. (Sie können jedoch genutzt werden, um zu beurteilen, ob ein/e Beschäftigte/r in seinem/ihrem aktuellen Team richtig oder falsch eingeteilt ist; daher können sie eine Gelegenheit bieten, zu beurteilen, wie ein/e interne/r Bewerber/in in Zukunft besser unterstützt werden kann).

Diese Analyse hat definitiv viel Zeit in Anspruch genommen, aber der positive Kompromiss war ein gerechterer interner Mobilitätsprozess.

Werte versus Ergebnisse

Google hat eine gute Erfolgsbilanz bei Investitionen in die Personalbeschaffung. Wie das vorangegangene Beispiel zeigt, evaluieren wir auch kontinuierlich unsere Prozesse, um Gerechtigkeit und Inklusion zu verbessern. Ganz allgemein basieren unsere Grundwerte auf Respekt und einem unerschütterlichen Engagement für eine vielfältige und integrative Belegschaft. Dennoch haben wir es Jahr für Jahr nicht geschafft, eine repräsentative Belegschaft einzustellen, die unsere Nutzerinnen und Nutzer auf der ganzen Welt widerspiegelt. Trotz der Richtlinien und Programme zur Unterstützung von Inklusionsinitiativen und zur Förderung hervorragender Leistungen bei der Einstellung und Beförderung haben wir nach wie vor Schwierigkeiten, unsere Ergebnisse zu verbessern. Der Fehler liegt nicht in den Werten, Absichten oder Investitionen des Unternehmens, sondern in der Anwendung dieser Richtlinien auf der Umsetzungsebene.

Alte Gewohnheiten sind schwer zu brechen. Die Nutzerinnen und Nutzer, für die du heute zu entwerfen gewohnt bist - die, von denen du gewohnt bist, Feedback zu bekommen - sind nicht unbedingt repräsentativ für alle, die du erreichen musst. Wir erleben dies häufig bei allen Arten von Produkten, von Wearables, die nicht für Frauenkörper geeignet sind, bis hin zu Videokonferenzsoftware, die für Menschen mit dunkleren Hautfarben nicht gut funktioniert.

Was ist also der Ausweg?

  1. Wirf einen genauen Blick in den Spiegel. Bei Google haben wir den Markenslogan "Build For Everyone". Wie können wir für alle bauen, wenn wir nicht über eine repräsentative Belegschaft oder ein Beteiligungsmodell verfügen, bei dem das Feedback der Community an erster Stelle steht? Wir können es nicht. Die Wahrheit ist, dass wir zeitweise sehr öffentlich fehlgeschlagen sind, um unsere schwächsten Nutzer vor rassistischen, antisemitischen und homophoben Inhalten zu schützen.

  2. Baue nicht für jeden. Baue mit allen. Wir bauen noch nicht für alle. Diese Arbeit findet nicht in einem Vakuum statt und schon gar nicht, wenn die Technologie noch nicht repräsentativ für die gesamte Bevölkerung ist. Trotzdem können wir nicht einfach aufgeben und nach Hause gehen. Wie können wir also für alle bauen? Wir bauen mit unseren Nutzern. Wir müssen unsere Nutzerinnen und Nutzer aus dem gesamten Spektrum der Menschheit einbeziehen und die schwächsten Gemeinschaften bewusst in den Mittelpunkt unserer Entwicklung stellen. Sie sollten nicht ein nachträglicher Gedanke sein.

  3. Entwickle das Produkt für denjenigen, der die größten Schwierigkeiten bei der Nutzung des Produkts haben wird. Wenn du für diejenigen mit zusätzlichen Herausforderungen entwickelst, wird das Produkt für alle besser. Eine andere Art, darüber nachzudenken, ist: Tausche nicht Eigenkapital gegen kurzfristige Schnelligkeit.

  4. Gehe nicht von Gleichheit aus, sondern messe die Gleichheit in deinem gesamten System. Erkenne an, dass auch Entscheidungsträger voreingenommen sind und möglicherweise nicht ausreichend über die Ursachen von Ungerechtigkeit informiert sind. Du hast vielleicht nicht das Fachwissen, um das Ausmaß eines Gerechtigkeitsproblems zu erkennen oder zu messen. Wenn du dich auf eine bestimmte Nutzergruppe konzentrierst, kann das bedeuten, dass du eine andere benachteiligst; diese Kompromisse sind oft schwer zu erkennen und können nicht rückgängig gemacht werden. Arbeite mit Personen oder Teams zusammen, die Experten in Sachen Vielfalt, Gleichberechtigung und Inklusion sind.

  5. Veränderung ist möglich. Die Probleme, mit denen wir heute durch die Technologie konfrontiert sind - von Überwachung über Desinformation bis hin zu Online-Belästigung - sind wirklich überwältigend. Wir können sie nicht mit den fehlgeschlagenen Ansätzen der Vergangenheit oder mit den Fähigkeiten, die wir bereits haben, lösen. Wir müssen uns verändern.

Bleib neugierig, geh voran

Der Weg zur Gerechtigkeit ist lang und komplex. Wir können und sollten jedoch dazu übergehen, nicht nur Werkzeuge und Dienstleistungen zu entwickeln, sondern auch zu verstehen, wie die von uns entwickelten Produkte die Menschheit beeinflussen. Unsere Ausbildung in Frage zu stellen, unsere Teams und Manager zu beeinflussen und umfassendere Nutzerforschung zu betreiben, sind alles Wege, um Fortschritte zu machen. Auch wenn Veränderungen unangenehm sind und der Weg zu Höchstleistungen schmerzhaft sein kann, ist er durch Zusammenarbeit und Kreativität möglich.

Und schließlich sollten wir uns als zukünftige Ausnahme-Ingenieurinnen und -Ingenieure zuerst auf die Nutzerinnen und Nutzer konzentrieren, die am meisten von Vorurteilen und Diskriminierung betroffen sind. Gemeinsam können wir daran arbeiten, den Fortschritt zu beschleunigen, indem wir uns auf die kontinuierliche Verbesserung konzentrieren und zu unseren Fehlern stehen. Ingenieur/in zu werden ist ein umfassender und kontinuierlicher Prozess. Das Ziel ist es, Veränderungen herbeizuführen, die die Menschheit voranbringen, ohne die Benachteiligten weiter zu benachteiligen. Als zukünftige Ausnahme-Ingenieure glauben wir daran, dass wir zukünftige Fehler im System verhindern können.

Fazit

Die Entwicklung von Software und die Entwicklung einer Softwareorganisation ist eine Teamleistung. Wenn ein Softwareunternehmen skaliert, muss es auf seine Nutzer reagieren und sie angemessen berücksichtigen, denn in der vernetzten Welt der Computertechnik sind heute alle Menschen vor Ort und auf der ganzen Welt vertreten. Es müssen mehr Anstrengungen unternommen werden, damit sowohl die Entwicklungsteams, die Software entwerfen, als auch die Produkte, die sie produzieren, die Werte einer so vielfältigen und umfassenden Gruppe von Nutzern widerspiegeln. Und wenn eine Entwicklungsorganisation wachsen will, darf sie unterrepräsentierte Gruppen nicht ignorieren. Ingenieure aus diesen Gruppen sind nicht nur eine Bereicherung für die Organisation selbst, sondern bieten auch einzigartige und notwendige Perspektiven für die Entwicklung und Umsetzung von Software, die für die Welt als Ganzes wirklich nützlich ist.

TL;DRs

  • Voreingenommenheit ist der Standard.

  • Vielfalt ist notwendig, um für eine umfassende Nutzerbasis zu sorgen.

  • Inklusion ist nicht nur wichtig, um die Einstellungsmöglichkeiten für unterrepräsentierte Gruppen zu verbessern, sondern auch, um ein wirklich förderliches Arbeitsumfeld für alle Menschen zu schaffen.

  • Die Produktgeschwindigkeit muss gegen die Bereitstellung eines Produkts abgewogen werden, das für alle Nutzer/innen wirklich nützlich ist. Es ist besser, das Tempo zu drosseln, als ein Produkt zu veröffentlichen, das einigen Nutzern schaden könnte.

1 Googles Diversity Report 2019.

2 @jackyalcine. 2015. "Google Fotos, ihr habt's vermasselt. My Friend's Not a Gorilla." Twitter, 29. Juni 2015. https://twitter.com/jackyalcine/status/615329515909156865.

3 In den Jahren 2018 und 2019 wurde in vielen Berichten auf einen Mangel an Vielfalt in der Tech-Branche hingewiesen. Zu den bekanntesten gehören das National Center for Women & Information Technology und Diversity in Tech.

4 Tom Simonite, "When It Comes to Gorillas, Google Photos Remains Blind", Wired, 11. Januar 2018.

5 Stephen Gaines und Sara Williams. "The Perpetual Lineup: Unregulierte polizeiliche Gesichtserkennung in Amerika". Center on Privacy & Technology am Georgetown Law, 18. Oktober 2016.

Get Softwareentwicklung bei Google now with the O’Reilly learning platform.

O’Reilly members experience books, live events, courses curated by job role, and more from O’Reilly and nearly 200 top publishers.

Start your free trial