Autonome KI entwerfen

Einleitung: Das richtige Gehirn am richtigen Ort (Warum wir autonome KI brauchen)

Obwohl die Probleme, die die Industrie mit autonomer KI lösen will, sehr vielfältig sind, lassen sie sich doch in drei klare Kategorien einteilen, die ich jetzt im Detail erläutern werde.

Ich habe ein Unternehmen beraten, das CNC-Maschinen (Computer Numerical Control) zur Herstellung von Handygehäusen einsetzt. Drehende Werkzeuge schneiden das Metall in die Form des Handys. Nachdem jedes Gehäuse geschnitten wurde, öffnet sich die Tür der CNC-Maschine. Ein Roboterarm lädt das fertige Teil auf ein Förderband, greift dann das nächste Teil aus einer Vorrichtung und lädt es zum Schneiden in die CNC-Maschine. Wenn das Teil nicht genau im richtigen Winkel in der Halterung liegt, schlägt der Roboterarm fehl oder lässt das Teil fallen, bevor es die CNC-Maschine erreicht. Und wenn das ankommende Gehäuse auch nur ein wenig breiter oder dünner ist als erwartet, schlägt der Roboterarm ebenfalls fehl oder lässt das Teil fallen, bevor es die CNC-Maschine erreicht.

Das automatisierte System ist unflexibel. Ein automatisiertes System ist eines, das Entscheidungen durch Berechnen, Suchen oder Nachschlagen trifft. Die Steuerung des Roboterarms wurde von Hand so programmiert, dass er von einem festen Punkt zu einem anderen fährt und die Aufgabe auf eine ganz bestimmte Art und Weise erfüllt. Das gelingt nur, wenn das Telefongehäuse die perfekte Breite hat und im perfekten Winkel in der Halterung sitzt, wie in Abbildung I-1 dargestellt.

Dieses Unternehmen braucht eine flexiblere und anpassungsfähigere Automatisierung, die den Roboterarm so steuert, dass er Kisten unterschiedlichster Breite in verschiedenen Aufspannungen erfolgreich greifen kann. Dies ist eine großartige Anwendung für autonome KI. Autonome KI ist flexibel und passt sich an das an, was sie wahrnimmt. Sie kann zum Beispiel das Greifen von Kisten unterschiedlicher Breite üben, die in verschiedenen Winkeln in der Vorrichtung sitzen, und lernt so, in einer größeren Vielfalt von Szenarien erfolgreich zu sein, wie in Abbildung I-2 dargestellt.

Abbildung I-1. Variationen der Breite und des Einspannwinkels, die ein automatisiertes System bei der Herstellung eines Mobiltelefons herausfordern können.

Abbildung I-2. Variationen der Breite und des Einspannwinkels, an die sich eine autonome KI bei der Herstellung von Handygehäusen anpassen könnte.

Die sich verändernde Welt erfordert Anpassungsfähigkeiten

Ein leitender Angestellter eines globalen Stahlunternehmens bat mich, nach Indiana zu reisen, um einen Teil der Stahlproduktion zu untersuchen, herauszufinden, wo ein KI-Gehirn helfen könnte, und dieses Gehirn zu entwickeln. Wir kamen frühmorgens im Stahlwerk an und trafen uns mit dem CTO des Standorts, der uns zu dem Gebäude führte, in dem sich der Prozess befand, auf den wir uns konzentrieren sollten, und uns ein paar Anweisungen gab, dann zogen wir Schutzschuhe, Schutzhelme und Metallmanschetten an und gingen zur Besichtigung hinein. Der Vorarbeiter holte uns ab und führte uns durch ein "Gebäude", in das viele hohe Gebäude hineinpassen und das mehrere Häuserblocks breit und lang ist (siehe Abbildung I-3). Dies war die letzte Phase des Stahlherstellungsprozesses, in der ein Stahlband zwischen zwei Papierhandtuchrollen gerollt wird, dann durch einen Ofen geschickt wird, um es zu härten, und schließlich durch ein Bad aus geschmolzenem Zink, um es vor Rost zu schützen (dies wird "Verzinken" genannt).

Wir sprachen mit dem Bediener in jedem Kontrollraum (in Stahlwerken werden diese "Kanzeln" genannt). Ich befragte sie dazu, wie sie Entscheidungen für den Betrieb der Maschinen treffen (welche Informationen sie für ihre Entscheidungen nutzen und wie sie die Maschinen in verschiedenen Szenarien betreiben). Dann entführten mich meine Gastgeber in ein Forschungszentrum, wo ich dem Chief Digital Officer (CDO) und einer Gruppe von Forschern meine Empfehlungen dazu gab, welche Entscheidungen in der Fabrik mithilfe von KI verbessert werden könnten. Ich empfahl, KI bei der Galvanisierung, dem letzten Schritt des Prozesses, einzusetzen.

Abbildung I-3. Foto des Stahlwerks.

Die Bediener kontrollieren die Beschichtungsanlage in Echtzeit, um sicherzustellen, dass die Zinkschicht gleichmäßig und in der richtigen Dicke aufgetragen wird. Früher war diese Aufgabe viel einfacher, als das Werk den meisten Stahl mit der gleichen Dicke, der gleichen Breite und der gleichen Beschichtungsstärke für die drei großen US-Autohersteller herstellte. Jetzt gibt es viel mehr Kunden, die viele verschiedene Stahlstärken und -breiten für Heizungsrohre, das Baugewerbe und alle möglichen anderen Dinge verlangen. Die Bediener hatten Schwierigkeiten, die Beschichtung einheitlich und die Dicke bei all diesen Variationen korrekt zu halten. Einige Kunden verlangten breiten, dünnen Stahl mit einer dünnen Beschichtung, andere bestellten schmalen, dicken Stahl mit einer dicken Beschichtung. Die Welt der Stahlherstellung hatte sich verändert und dieses Unternehmen suchte nach Lösungen für autonome KI.

Dieses Unternehmen befindet sich in einer schwierigen Situation. Ihr Geschäftsumfeld (Kunden, Märkte, Prozesse, Anlagen und Mitarbeiter) verändert sich und sie haben Schwierigkeiten, ihre Entscheidungen anzupassen. Oft können ihre automatisierten Systeme, die für die Automatisierung wiederholbarer, vorhersehbarer Prozesse entwickelt wurden, ihr programmiertes Verhalten nicht an diese veränderten Bedingungen anpassen. Wenn sich die Bedingungen ändern, treffen sie schlechtere Entscheidungen und werden manchmal sogar ganz aus dem Verkehr gezogen, weil ihre Entscheidungen nicht mehr relevant oder qualitativ hochwertig genug sind.

Probleme brauchen Lösungen, keine KI

Menschen und automatisierte Systeme stoßen an die Grenzen ihrer Möglichkeiten, industrielle Prozesse zu verbessern. Jetzt wenden sich die Unternehmen auf der Suche nach Antworten an die KI. Leider konzentriert sich ein Großteil der Diskussion über KI auf Fiktion (überbewertete und überversprochene Fähigkeiten) oder Science-Fiction (ob KI jemals Superintelligenz erreichen wird und wenn ja, was sind die philosophischen und ethischen Implikationen). Keine dieser Diskussionen hilft den Unternehmen, ihre Abläufe zu verbessern. Was Unternehmen stattdessen brauchen, ist ein Leitfaden, wie sie nützliche KI in autonome Systeme einbauen können, damit sie Entscheidungen effektiver treffen können als Menschen oder automatisierte Systeme.

Als ich anfing, autonome KI zu entwickeln, warb ich für eine "neue Form der KI", die sich von anderen Arten von KI und maschinellem Lernen unterscheidet. Ich merkte schnell, dass die Unternehmen, die ich beriet, sich nicht für KI interessierten. Sie waren auf der Suche nach einer Technologie, mit der sie ihre anspruchsvollen Geschäftsprozesse besser kontrollieren und optimieren konnten als mit ihren bestehenden Lösungen. Es war ihnen wichtig, dass ihre Bediener und automatisierten Kontrollsysteme effektiv waren, aber sie hatten Schwierigkeiten, zusätzliche Prozessverbesserungen zu erzielen. Sie verstanden, dass sich die Kontroll- und Optimierungstechnologie ständig weiterentwickelt und dass autonome KI einfach eine Weiterentwicklung der Kontroll- und Optimierungstechnologie mit einzigartigen Unterscheidungsmerkmalen ist.

Was kann KI im echten Leben für mich tun?

Der AI Index Report gibt an, dass im Jahr 2019 über 120.000 von Experten begutachtete wissenschaftliche Arbeiten zum Thema KI veröffentlicht wurden. Nicht wenige dieser Veröffentlichungen wurden in der Presse stark publiziert. Manche nennen das die "Research-to-PR-Pipeline", weil die Unternehmen ihre Forschungsergebnisse direkt aus dem Labor in die Presse transportieren. Es ist zwar toll, Zugang zu Spitzenforschung zu haben, aber diese "Research-to-PR-Pipeline" kann den Eindruck erwecken, dass jeder neue Algorithmus bereit ist, Probleme im wirklichen Leben zu lösen. Die Herausforderung besteht darin, dass viele Algorithmen, die in kontrollierten Laborexperimenten sehr vielversprechend erscheinen, aufgrund der Bedenken von Menschen und Prozessen sowie der Unwägbarkeiten in realen Produktionsprozessen praktisch unbrauchbar werden. Ich gebe dir ein Beispiel.

Ein großer US-amerikanischer Autovermieter wandte sich an uns mit der Frage, ob KI ihm helfen könnte, die tägliche Auslieferung von Autos zwischen seinen Standorten zu planen. Jeden Tag bringen in den meisten Großstädten etwa ein Dutzend Fahrer die Autos von der Vermietstation, bei der sie abgegeben wurden, zu den Vermietstationen, wo sie abgeholt werden müssen. Ein menschliches Zeitplannungsprogramm plant die Routen für jeden Fahrer, um die richtigen Fahrzeuge an den richtigen Ort zu bringen. Kenner des Operations Research, das sich intensiv mit der Lösung von Logistik- und Lieferproblemen befasst, nennen das vielleicht "Vehicle Routing Problem". Sie könnten dir sagen, dass es verschiedene Optimierungsalgorithmen gibt, die die "optimale" Lösung für die Routen der einzelnen Fahrer suchen und finden können, so dass die Fahrer zusammen die kürzeste Strecke zurücklegen. Wo liegt also das Problem? Warum sollte dieses Unternehmen menschliche Zeitplanungsprogramme einsetzen? Kennen sie nicht den Dijkstra-Algorithmus, mit dem sich Routen mit der kürzesten Gesamtstrecke finden lassen? Warte mal kurz. So einfach ist das nicht.

Dijkstras Algorithmus für den kürzesten Weg sucht nach möglichen Routen und plant die Routen für jeden Fahrer so, dass die Haltestellen so nah wie möglich beieinander liegen. Wenn du dich also in einer Stadt befindest, in der die beste Strategie darin besteht, die nächsten Haltestellen so dicht wie möglich aneinander zu legen, wird dir Dijkstras Algorithmus jedes Mal die bestmögliche Antwort geben. Hier ist das Problem. In den meisten Großstädten ist das Verkehrsaufkommen und nicht die Entfernung der entscheidende Faktor für die Zeit, die jede Strecke benötigt. Aber die Betriebsforschung definiert das Problem der Routenplanung ohne Berücksichtigung des Verkehrs. Es gibt viele Situationen, in denen die nächstbeste Haltestelle nicht die nächstgelegene ist, weil der Verkehr schlecht ist. Das gilt besonders für den Berufsverkehr. Jede Stadt hat ihre eigenen Verkehrsmuster, aber der Verkehr variiert aufgrund einer Reihe von Faktoren. Dijkstras Algorithmus berücksichtigt den Verkehr überhaupt nicht und ändert sein Planungsverhalten auch nicht aufgrund der Faktoren, die das Verkehrsverhalten bestimmen. Selbst wenn also jedes Mietwagenunternehmen weiß, wie man Dijkstras Algorithmus programmiert und einsetzt, kann er menschliche Zeitplanungsprogramme nicht ersetzen. Der Dijkstra-Algorithmus eignet sich auch nur bedingt dazu, unerfahrene Zeitplanungsprogrammierer/innen zu schulen oder das Fachwissen erfahrener Zeitplanungsprogrammierer/innen zu erweitern.

Stattdessen haben wir hier ein Gehirn, das sich besser an Verkehrsmuster anpassen kann als Dijkstras Algorithmus. Dieses Gehirn kann auch verwendet werden, um unerfahrene Zeitplanungsprogramme zu coachen oder erfahrene Zeitplanungsprogramme zu beraten. Abbildung I-4 ist ein hypothetisches Beispiel für ein KI-Gehirn, das nicht für ein reales Unternehmen entwickelt wurde. Mit den Techniken in diesem Buch kannst du jedoch leicht ähnliche Gehirne entwerfen und dieses Gehirn für ähnliche Anwendungen modifizieren.

Das Beispielgehirn in Abbildung I-4 funktioniert wie eine Taxizentrale. Jedes Mal, wenn ein Fahrer ankommt und ein Auto abliefert, entscheidet es, an welchen Ort der Fahrer sein nächstes Auto bringen soll. Das Ziel ist es, alle Autos in möglichst kurzer Zeit an die Orte zu bringen, an denen sie gebraucht werden.

Abbildung I-4. Beispielgehirn für die Echtzeit-Planung von Mietwagenlieferungen in einer Großstadt.

Hier siehst du, wie du das Diagramm des Gehirns lesen kannst. Die Ovale stellen den Eingang und den Ausgang des Gehirns dar. Das Gehirn erhält Informationen über den Verkehr, die Fahrzeuge, die ausgeliefert werden müssen, und die Lieferorte. Zum Beispiel könnte das Gehirn über seinen Eingangsknoten die Information erhalten, dass es Mittwoch während der morgendlichen Rushhour ist, dass bisher 5 Autos ausgeliefert wurden und dass bisher 98 Autos für den Tag zur Auslieferung anstehen. Die Module stehen für die Fähigkeiten, die das Gehirn erlernt, um Entscheidungen über die Zeitplanung zu treffen. Wir bauen ein Modul für maschinelles Lernen in das Gehirn ein (dargestellt durch ein Sechseck), um die Länge der Fahrt zu jedem möglichen Ziel auf der Grundlage der Verkehrsmuster in der Stadt vorherzusagen. Dieses Modul funktioniert ähnlich wie die Algorithmen in Google und Apple Maps, die vorhersagen, wie lange jede Fahrt dauern wird. Das Rechteck stellt ein KI-Entscheidungsmodul dar, das bestimmt, zu welchem Ziel der Fahrer geleitet werden soll. Unter "Visuelle Sprache des Gehirns" erfährst du mehr darüber, wie wir Gehirn-Designs visuell darstellen. Das Gehirn lernt, Fahrplanentscheidungen zu treffen, die sich besser an das Verkehrsaufkommen anpassen und Fahrpläne erstellen, die den Tagesbestand an Autos schneller liefern als Dijkstras Algorithmus.

Dieses Beispiel soll nicht heißen, dass Software-Algorithmen nicht nützlich sind, um Probleme in der Praxis zu lösen. Es ist eine Warnung davor, einen Software-Algorithmus oder eine Technik, die in der Forschung bewiesen wurde, aus einer Liste herauszugreifen und sie zur Lösung eines realen Problems einzusetzen, ohne alle Anforderungen an die Lösung dieses Problems zu berücksichtigen. Vorhin habe ich die Frage gestellt: "Warum hat Software nicht mehr Probleme in der Produktion gelöst?" Meine Antwort lautet: Wenn du aus einer "Liste von Software-Algorithmen" auswählst, ohne die Abläufe und Prozesse, die du verbessern willst, genau zu verstehen, wirst du nicht in der Lage sein, reale Probleme effektiv und gut zu lösen.

Tipp

Anstatt Entscheidungsprozesse so lange zu vereinfachen, bis ein bestimmter Algorithmus eine Entscheidung gut treffen kann, solltest du deine Entscheidungsmöglichkeiten so lange nuancieren, bis er das realistische Problem gut lösen kann.

KI-Entscheidungsfindung wird immer autonomer

In seinem 1970 erschienenen Buch The Structure of Scientific Revolutions (University of Chicago Press) beschreibt Thomas Kuhn Durchbrüche in der Forschung als Interpunktion zwischen langen Perioden schrittweiser Verbesserungen und Experimenten. Zum Beispiel machte Sir Isaac Newton 1687 eine wichtige Entdeckung über die Schwerkraft. Im Jahr 1915 gelang Albert Einstein ein Durchbruch, der ein differenzierteres und genaueres Bild der Schwerkraft lieferte. Einsteins Durchbruch widerspricht nicht dem Newton'schen Gesetz, aber er liefert ein umfassenderes und differenzierteres Bild davon, wie die Schwerkraft funktioniert. Genauso unterbrechen Quantensprünge in der autonomen Entscheidungsfindung lange Perioden der schrittweisen Verbesserung und des Experimentierens innerhalb etablierter Paradigmen. Stephen Jay Gould beobachtet dasselbe Phänomen in seiner Diskussion über das interpunktierte Gleichgewicht (punctuated equilibrium).¹ Abbildung I-5 veranschaulicht, wie wissenschaftliche Revolutionen und die Demokratisierung des Mainstreams die Wissenschaft im Laufe der Zeit voranbringen.

Abbildung I-5. Wissenschaftlicher Fortschritt im Laufe der Zeit: Revolutionen, unterbrochen von Perioden des Rätsellösens, in denen Mainstreaming und Demokratisierung stattfinden.

In der Geschichte der KI und anderer Forschungstechnologien haben diese Perioden des Rätsellösens und der schrittweisen Veränderung zwischen den Forschungsdurchbrüchen zu nuancierteren Entscheidungsfähigkeiten geführt, die sich aus der Forschung ableiten und für die Lösung echter Probleme in der Industrie nützlich werden. Das Triebwerk für Düsenjäger wurde während des Zweiten Weltkriegs in deutschen Forschungslabors entwickelt und zum ersten Mal in einem Serienflugzeug, der Messerschmitt Me 262, eingesetzt. Der Krieg war die treibende Kraft für die Innovation von Düsenflugzeugen, die dann in den Jahren nach dem Zweiten Weltkrieg auch in der kommerziellen Luftfahrt Einzug hielten.

Das Gleiche gilt für KI und automatisierungsbezogene Technologien. Nehmen wir zum Beispiel das Expertensystem: eine Methode, um automatisierte Entscheidungen auf der Grundlage menschlicher Erfahrung zu treffen. Expertensysteme wurden während der zweiten großen Welle der KI-Forschung (1975-1982) entwickelt. Expertensysteme eignen sich hervorragend, um vorhandenes Wissen über die Ausführung von Aufgaben zu erfassen, aber sie erwiesen sich als unflexibel und schwer zu pflegen. Zu einem bestimmten Zeitpunkt machten Expertensysteme (von denen manche glaubten, dass sie eine dem Menschen vergleichbare Intelligenz erreichen würden) einen Großteil der damaligen KI-Forschung aus, aber in den 1990er Jahren waren sie aus der KI-Forschung fast verschwunden. Es stimmt zwar, dass die meisten grundlegenden Forschungsfragen zu Expertensystemen zu diesem Zeitpunkt bereits beantwortet waren, aber die Expertensysteme hatten nicht die erhoffte Autonomie gebracht. Gleichzeitig begann die Zeit des Rätsellösens, um Expertensysteme als nützliche Entscheidungsautomatisierung für reale Systeme zu etablieren und zu demokratisieren, während gleichzeitig Arbeiten begannen, die zu neuen Revolutionen führten, die die Schwächen von Expertensystemen für autonome Entscheidungen behoben.

Expertensysteme sind heute im Finanzwesen und in der Technik weit verbreitet. Die NASA entwickelte 1980 eine Software-Sprache, um sie zu schreiben. In diesem Buch zeige ich dir, wie du Expertensysteme mit anderen KI-Techniken kombinieren kannst, um autonome KI zu entwickeln. Die erste Erkenntnis ist, dass bahnbrechende Forschungsergebnisse oft erst dann einen Mehrwert für Produktionssysteme und -prozesse bringen, wenn sie so ausgereift sind, dass sie den Anforderungen der Menschen und Prozesse gerecht werden, die diese Prozesse betreiben. Die zweite Erkenntnis ist, dass neue Revolutionen die autonome Entscheidungsfindung weiter verbessern werden.

Eine dieser Revolutionen ist das maschinelle Lernen, das in dem verlinkten Wikipedia-Artikel zum Zeitpunkt des Schreibens dieses Buches als das Studium von Computeralgorithmen definiert wird, die sich durch Erfahrung und die Nutzung von Daten automatisch verbessern können. Maschinelles Lernen ist ein leistungsfähiges Paradigma für Vorhersagen und präskriptive Entscheidungen und ein grundlegender Baustein für moderne autonome KI, auf den ich in diesem Buch ausführlich eingehen werde. Es ist jedoch kein Ersatz für alle vorangegangenen Paradigmen der Entscheidungsfindung. Maschinelles Lernen verhält sich zu früheren Paradigmen der Entscheidungsfindung wie Einsteins Relativitätstheorie zur Newtonschen Physik: Die Newtonsche Physik gilt für Objekte einer bestimmten Größe, die sich mit einer bestimmten Geschwindigkeit bewegen. Die Relativitätstheorie ist ein differenzierteres Paradigma, das in Situationen Anwendung findet, in denen die Newtonsche Physik die Realität nicht gut beschreibt. Die Abkehr von früheren Paradigmen der Entscheidungsfindung zugunsten des maschinellen Lernens führt zu einem Phänomen, das ich als Kolonialismus der Datenwissenschaft bezeichne.

Hüte dich vor dem Kolonialismus der Datenwissenschaft

Genauso wie Software nicht mehr Probleme in der Produktion gelöst hat, scheint auch der aufkeimende Bereich der Datenwissenschaft nicht den erwarteten durchschlagenden positiven Effekt auf die Industrie gehabt zu haben. Data Science ist ein interdisziplinäres Fachgebiet, das wissenschaftliche Methoden, Prozesse, Algorithmen und Systeme einsetzt, um Wissen und Erkenntnisse aus verrauschten, strukturierten und unstrukturierten Daten zu gewinnen und um Wissen und verwertbare Erkenntnisse aus Daten in einem breiten Spektrum von Anwendungsbereichen anzuwenden. Das Feld ist in vollem Gange, und Unternehmen wenden sich an Data Scientists, um eine Vielzahl von Problemen zu lösen. Wie VentureBeat berichtet, werden jedoch leider 87 % der von Data Scientists erstellten Machine-Learning-Modelle nie in die Produktion übernommen. Data-Science-Kolonialismus ist eine Praxis, bei der nur Daten verwendet werden, um zu diktieren, wie man ein System steuert oder einen Prozess optimiert, ohne den Prozess ausreichend zu verstehen. Dabei werden frühere Erfahrungen mit der Steuerung eines Prozesses und die Erfahrungen der Ingenieure bei der Planung des Prozesses ignoriert. Manchmal werden sogar die physikalischen und chemischen Gesetze ignoriert, die den Prozess bestimmen. Der Kolonialismus der Datenwissenschaft ignoriert wichtige Details und ist eine Herablassung gegenüber den Experten, die an der Entwicklung und dem Aufbau autonomer KI beteiligt sein sollten.

Es gibt eine Spielart der Datenwissenschaft, die ähnlich wie Kolonialismus funktioniert. Kolonialismus ist eine Praxis, bei der Länder andere Gebiete erforschen oder sogar in sie eindringen, weil sie behaupten, die Gesellschaft, auf die sie treffen, verbessern zu wollen, meist ohne Rücksicht auf die bestehende Kultur und Werte. Eine kolonialistische Denkweise könnte fragen: "Warum sollte ich eine primitivere Gesellschaft fragen, welche Hilfe sie von mir braucht? Ich sollte ihnen einfach sagen, was sie tun sollen!" Das ist eine der ungeheuerlichsten Perspektiven des Kolonialismus: die Arroganz, dass man nichts über die Menschen lernen oder berücksichtigen muss, deren Kultur und Lebensweise man zerstört. Leider sehe ich eine ähnliche Sichtweise bei einigen fehlgeleiteten Datenwissenschaftlern, die es nicht für nötig halten, langsamer zu machen, zuzuhören und von den Menschen zu lernen, bevor sie versuchen, eine "bessere" Lösung zu entwickeln.

Ich war in Kanada in einer großen Nickelmine und beriet mich mit Prozessexperten über den Einsatz von KI zur Steuerung einer SAG-Mühle (man stelle sich einen acht Stockwerke hohen Zementmischer vor). Ich ging nach draußen, um einen Anruf entgegenzunehmen, und als ich zurück in den Flur kam, stritten sich einer der Datenwissenschaftler und einer der Experten. Es ging um nichts, was Fachleute nicht auch gemeinsam lösen könnten, aber die Meinungsverschiedenheit drehte sich darum, ob wir dem vorhandenen Fachwissen der Bediener über denBetrieb der Mühle vertrauen und es respektieren sollten.

Ein anderes Mal sprach ich mit einer Führungskraft, die einen Hochschulabschluss in KI hatte und für die Optimierung von Prozessen in einem Produktionsunternehmen zuständig war. Ich erklärte ihm, dass mein Ansatz zur Entwicklung von KI für industrielle Prozesse stark auf dem vorhandenen Fachwissen darüber beruht, wie das System zu steuern oder zu optimieren ist. Er bedankte sich dafür, dass ich nicht zu den vielen Unternehmen gehöre, die zu ihm kamen, und sagte ihm, dass sie nur einige seiner Daten bräuchten und mit diesen Daten ein KI-basiertes Steuerungssystem für ihn bauen würden. Er glaubte nicht, dass es möglich sei, jahrzehntelanges menschliches Fachwissen zu ignorieren und ein Kontrollsystem zu entwickeln, das sowohl gut funktioniert als auch alle menschlichen und verfahrenstechnischen Belange berücksichtigt, die mit dem Betrieb teurer sicherheitskritischer Anlagen verbunden sind. Das glaube ich auch nicht.

Mehrere Unternehmen haben in letzter Zeit versucht, Probleme im Gesundheitswesen mithilfe von Algorithmen des maschinellen Lernens zu lösen. Tätigkeiten wie das Lesen von Röntgenbildern zur Krebserkennung können lebensrettend sein. Einige Unternehmen haben jedoch die Fähigkeiten der Algorithmen überschätzt und das Fachwissen der Mediziner/innen unterschätzt - mit enttäuschenden Ergebnissen. Vielleicht würde mehr Respekt vor den Experten zu einer besseren Technologie und besseren Ergebnissen führen.

Hier ist ein weiteres Beispiel für den Kolonialismus der Datenwissenschaft. Erinnerst du dich an die Bulldozer-KI, von der ich dir in der Einleitung erzählt habe? Einer der Fachexperten, ein promovierter Steuerungsingenieur namens Francisco, bedankte sich während des KI-Designprozesses bei mir. Er fühlte sich von anderen, die ihn in der Vergangenheit zu KI beraten hatten, herablassend behandelt. Was?! Francisco war brillant in Mathematik und Steuerungstheorie - warum sollte ihn jemand in Sachen KI herablassend behandeln? Die besten KI-Designer sind neugierig, bescheiden und widerstehen der Versuchung, Datenwissenschaft, maschinelles Lernen oder KI als etwas zu betrachten, das den Wert von Fachwissen ersetzt.

Das soll nicht heißen, dass alle Datenwissenschaftler/innen glauben, dass ihr Beruf ein Allheilmittel ist; es gibt Datenwissenschaftler/innen die neugierig sind und großes Einfühlungsvermögen zeigen. Die Bescheidenheit und die Neugier zu erforschen und zu lernen, was Menschen bereits wissen, um Entscheidungen zu treffen, wird bei der Entwicklung autonomer KI eine große Hilfe sein.

Tipp

Jedes KI-Gehirn, das du entwirfst, um echte Entscheidungen für echte Prozesse zu treffen, sollte sich mit der sich verändernden Welt, den sich verändernden Arbeitskräften und dringenden Problemen befassen.

Der Wandel in der Arbeitswelt verlangt nach transferierten Fertigkeiten

Wenn Automatisierungssysteme keine guten Leistungen erbringen oder keine guten Entscheidungen treffen, werden Fabriken und Prozesse wieder von Menschen gesteuert. Bei einigen Prozessen greift der Mensch nur dann ein, wenn die automatisierten Systeme schlechte Entscheidungen treffen, aber bei anderen Prozessen, die sich nicht gut automatisieren lassen, behält der Mensch die volle Kontrolle. Allerdings gehen Experten in alarmierendem Tempo in den Ruhestand und nehmen jahrzehntelanges, hart erarbeitetes Wissen darüber mit, wie man industrielle Entscheidungen trifft. Nachdem ich mit einem Experten nach dem anderen und mit einem Unternehmen nach dem anderen gesprochen habe, wurde mir klar, dass die Menschen auf der Suche nach Antworten auf ihre sich verändernde Belegschaft auf KI setzen, denn Fachwissen ist schwer zu erwerben und ebenso schwer zu erhalten. Erschwerend kommt hinzu, dass Fachwissen relativ leicht zu vermitteln ist, aber viel Übung erfordert.

Fachwissen ist schwer zu erlangen

Ich habe ein Chemieunternehmen besucht, das mit einem Extruder Kunststofffolien für Computerbildschirme und andere Produkte herstellt. Ein Extruder nimmt Rohmaterial (Seife, Maismehl für Lebensmittel oder in diesem Fall Kunststoffgranulat) und erhitzt es in einem Metallrohr mit einer sich drehenden Schnecke im Inneren. Die Schnecke drückt das Material durch einen Schlitz heraus, um den Kunststoff herzustellen. Dann wird die Plastikfolie (sie sieht aus wie Saran Wrap) in beide Richtungen gedehnt, gekühlt und manchmal beschichtet. Der Kontrollraum war voll mit Computerbildschirmen und Tastaturen, um Messungen zu überprüfen und Anpassungen in Echtzeit vorzunehmen. Kannst du dir vorstellen, wie lange ein Bediener trainiert, bevor er als leitender Bediener im Kontrollraum "das Sagen" hat? Sieben Jahre! Viele Bediener absolvieren in dieser Zeit ein Chemieingenieurstudium. Es braucht eine Menge Übung, bis du einen Prozess für verschiedene Produkte, unterschiedliche Kundenanforderungen, Kunststoffarten, Beschichtungsarten und Maschinenverschleiß gut beherrschst. Und wenn deine Experten deinen Prozess wirklich gut beherrschen, wird es Zeit, dass sie in den Ruhestand gehen, und du brauchst eine Möglichkeit, dieses Wissen an andere weiterzugeben, die weniger erfahren sind.

Fachwissen ist schwer zu bewahren

Navasota, Texas, ist eine kleine Stadt etwa zwei Autostunden von Houston entfernt. Ich fuhr dorthin, um einer Firma namens NOV Inc. bei der Arbeit in ihrer Maschinenwerkstatt zu helfen. Wir kamen in einem Pickup auf einem Parkplatz voller Pickups an und ich fühlte mich fehl am Platz, denn ich war einer von zwei Menschen, die ich an diesem Tag sah, die keine Cowboystiefel trugen. Unser Sponsor war eine vorausschauende Führungskraft namens Ashe Menon, die KI als Ausbildungsinstrument nutzen wollte. Viele haben Angst, dass KI den Menschen die Arbeitsplätze wegnimmt, aber er sagte mir das Gegenteil: "Ich möchte einen 16-jährigen Schulabbrecher einstellen können, ihm ein Gehirn zur Seite stellen und ihn als Maschinenbediener erfolgreich machen." Er will menschliche Maschinenführer durch autonome KI ergänzen, nicht ersetzen.

Wir setzten uns in einem schnörkellosen, industriellen Konferenzraum bei starkem Kaffee zusammen und er stellte mir einen Maschinenbauer namens David vor. Ich ziehe es vor, über KI in einfacher Sprache zu sprechen, anstatt Forschungsjargon zu verwenden. Also erklärte ich diesem 35 Jahre erfahrenen Maschinisten, dass eine neue Form der KI lernen kann, indem sie übt und Feedback bekommt, so wie er es über all die Jahre getan hat.

Wenn David und andere erfahrene Maschinisten die Schneidmaschinen steuern (ihnen Anweisungen geben, wohin sie sich bewegen und wie schnell sie den Fräser drehen sollen), werden die Schneidaufträge viel schneller und in besserer Qualität erledigt, als wenn die Ingenieure die Anweisungen mit automatischer Software erstellen. David hat das Schneiden vieler verschiedener Teile mit über 40 verschiedenen Maschinenmarken und -modellen geübt. Einige der Maschinen sind neu und einige der Maschinen in der Werkstatt sind über 20 Jahre alt. Diese Maschinen verhalten sich beim Schneiden von Metall ganz unterschiedlich und David hat gelernt, wie er das Beste aus jeder Maschine herausholen kann, indem er sie unterschiedlich bedient.

NOV und viele andere Unternehmen wollen das beste Fachwissen ihrer erfahrenen Bediener/innen erfassen und kodieren, diese Erfahrungen in ein KI-Gehirn hochladen und dieses Gehirn neben weniger erfahrenen Bediener/innen platzieren, um ihnen zu helfen, sich schneller einzuarbeiten und bessere Leistungen zu erbringen. Dazu müssen Experten befragt werden, um herauszufinden, welche Fähigkeiten und Strategien sie anwenden, um eine Aufgabe erfolgreich zu erledigen. Dann kannst du eine KI entwickeln, die dieselben Fähigkeiten trainiert, Feedback erhält und ebenfalls lernt, die Aufgabe erfolgreich zu bewältigen.

Ein leitender Angestellter in der Rohstoffindustrie erzählte mir, dass die 20- und 30-jährigen Experten in großen Gruppen in den Ruhestand gehen und dass es sich anfühlt, als ob ihre hart erkämpften, wertvollen Erfahrungen darüber, wie man sein Unternehmen am besten führt, zur Tür hinausgehen und nie wiederkommen. Menschen können lernen, wie man komplexe Anlagen steuert, die sich auf wirklich seltsame Weise verändern, aber es braucht viel Übung, um die Feinheiten in unsere Intuition einzubauen. Die meisten erfahrenen Bediener/innen sagen mir, dass sie Jahre oder Jahrzehnte gebraucht haben, um zu lernen, ihre Arbeit gut zu machen.

Tipp

Die Entwicklung autonomer KI ermöglicht es dir, Fachwissen in KI zu verpacken, um es an andere Menschen weiterzugeben, es für später zu speichern, es auf neue und interessante Weise zu kombinieren oder es zur autonomen Steuerung von Prozessen einzusetzen.

Fachwissen ist einfach zu lehren, erfordert aber Übung

Ob beim Schachspielen, beim Erlernen einer Sportart oder bei der Steuerung eines Prozesses in einer Fabrik - um Fertigkeiten zu erlangen, muss man viel üben, um die Feinheiten des Handelns in vielen komplexen Situationen zu verstehen. Fachwissen ist komplex und situationsabhängig differenziert. Lehrer/innen leiten diese Übung so an, dass sie zu einem effizienteren Kompetenzerwerb führt. Trainer/innen und Lehrer/innen machen das ständig, wenn sie eine Fähigkeit einführen (beschreiben) und die Schüler/innen dann bitten, sie zu üben. Wenn Lehrer/innen das tun, haben sie oft eine bestimmte Reihenfolge, in der sie die Fertigkeiten einführen und üben wollen. Wenn der Unterrichtsplan gut ist, beschleunigt er das Lernen, aber selbst der beste Unterrichtsplan nimmt den Lernenden nicht die situative Improvisation und die Nuancen, die sie beim Üben (Erlernen)der Fertigkeiten zeigen.

SCG Chemicals ist Teil eines 100 Jahre alten Unternehmens, das Kunststoff herstellt. Für eine Art von Kunststoff haben sie das Verfahren erfunden, gelernt, die Reaktoren effizient zu betreiben, und sogar fortschrittliche Chemie erforscht, um den Prozess zu simulieren. Die Bediener haben geübt, die Reaktoren für all die verschiedenen Kunststoffprodukte, die sie herstellen, und für die Katalysatoren, die sie dafür verwenden, gut zu steuern. Eine der ersten Fragen, die ich den Experten stellte, war: "Wie bringen Sie neuen Bedienern diese komplexe Fähigkeit der Reaktorsteuerung bei?" Die Antwort war kurz und bündig: Es gibt zwei Hauptstrategien, die wir jedem Bediener beibringen (Bediener aller Geschlechter werden bei SCG als Bediener bezeichnet).

1. Füge Zutaten hinzu, bis die Dichte den Zielbereich erreicht. Ignoriere die Schmelzpunktmessungen für den Prozess, während du diese erste Strategie anwendest.

2. Wenn die Dichte des Kunststoffs dann im Zielbereich liegt, wechselst du zur zweiten Strategie. Bei dieser Strategie ignorierst du die Dichte und fügst Zutaten hinzu, bis der Schmelzpunkt des Kunststoffs die Produktspezifikation erreicht.

Wenn du die Strategien in der vorgeschriebenen Reihenfolge anwendest, werden sowohl die Dichte als auch der Schmelzpunkt richtig sein, weil die Chemie funktioniert. Sie haben dieses Verfahren erfunden, aber selbst sie haben nicht alle chemischen Grundlagen, die erklären, warum es so funktioniert. Es funktioniert aber jedes Mal, und deshalb bringt SCG Chemicals seinen Mitarbeitern diese Reihenfolge der Strategien bei.

Verstehst du, dass die Vermittlung der Fähigkeiten für einen kompetenten Lehrer relativ einfach ist, aber dass jede Fähigkeit immer noch eine Menge Übung erfordert? In den Händen eines guten Lehrers sind diese Fertigkeiten leicht zu vermitteln, aber sie erfordern eine Menge Übung, um deine Intuition zu entwickeln. Jede Minute muss der/die Schüler/in entscheiden, wie viel von jeder Zutat (in der Chemie Reagenzien genannt) er/sie hinzufügen muss. Sie müssen weniger Reagenzien hinzufügen, wenn die Dichte nahe am Zielwert liegt, und mehr Reagenzien, wenn die Temperatur höher ist. Wie viel mehr, hängt davon ab, welche Variante von Kunststoff sie herstellen und welchen Katalysator sie für die Reaktion verwenden.

Der leitende Ingenieur Pitak schreibt maßgeschneiderte Rezepte, nach denen die Vorstandsmitglieder jede Strategie erfolgreich ausführen können, auch wenn sie noch nicht genug Übung haben, um die Fähigkeiten zu beherrschen. Die Brettleute stützen sich auf diese festen Rezepte, um erfolgreich zu sein, bis sie genug geübt haben, um die Feinheiten und Variationen zu verinnerlichen.

Auch wenn jeder Einkäufer die beiden Strategien kennt und ein Verfahren hat, wie sie anzuwenden sind, braucht es viel Übung, um die Strategien an die sich ändernden Prozessbedingungen anzupassen. So kann es zum Beispiel vorkommen, dass ein Boardman Reagenzien in unterschiedlichen Mengen in den Reaktor gibt, wenn er eine bestimmte Art von Kunststoff mit einem bestimmten Katalysator herstellt, aber Zutaten in etwas anderen Mengen in den Reaktor gibt, wenn er eine andere Art von Kunststoff mit einer anderen Art von Katalysator herstellt. Pitak aktualisiert also die Rezepte, wenn sich die Bedingungen ändern.

Das ist dem, was beim Backen passiert, sehr ähnlich (Backen ist schließlich eine komplexe chemische Reaktion). Dein Vater hat dir vielleicht beigebracht, den Teig zu kneten, während du die ersten Zutaten hinzufügst, bis er sich klebrig anfühlt und nach Mandeln riecht. Das ist die erste Strategie. Vielleicht hat er dir auch beigebracht, dass du als Nächstes eine andere Gruppe von Zutaten hinzufügst und den Teig knetest, bis er fest ist. Das ist die zweite Strategie. Dein Vater hat dir zwei Strategien beigebracht und wie du sie in die richtige Reihenfolge bringst (siehe Abbildung I-6).

Abbildung I-6. Prozess der Backvorbereitung mit zwei Fertigkeiten, die nacheinander eingesetzt werden.

Die Strategien sind ziemlich einfach zu lernen und zu verstehen, aber es braucht Übung, um sie zu beherrschen. Dafür sind Rezepte da. Sie sagen dir genau, wie viel von jeder Zutat du bei jedem Arbeitsschritt hinzugeben musst, und geben Empfehlungen, wie lange du mischen und wie lange du kneten musst. Das Problem mit Rezepten (beim Backen, bei der Herstellung von Kunststoffen und bei vielen anderen Aufgaben) ist, dass das Rezept starr ist. Ein Bäckereiexperte weiß, dass man bei feuchter und heißer Witterung kürzer mischen muss, bevor man mit dem Kneten beginnt. Genauso wie Pitak weiß, dass man mehr Reagenzien oder Katalysatoren in den Reaktor geben muss, wenn es draußen heißer und feuchter ist. Deshalb aktualisiert Pitak die Rezepte, die der Bäcker befolgen muss, wenn sich Temperatur und Luftfeuchtigkeit ändern. Mit etwas mehr Übung brauchen die Bäcker und Schafscherer die Rezepte nicht mehr. Sie erstellen ihre eigenen Rezepte spontan (Bäcker/innen aufgrund des Gefühls und des Geruchs des Teigs, Pastoren/innen aufgrund der Temperatur und des Drucks im Reaktor). Das ist der Grund, warum meine Mutter nie Rezepte benutzt, wenn sie kocht. Sie hat vor Jahrzehnten mit einem Rezept für jedes Gericht angefangen, aber jetzt passt sie die Zutaten nach Geschmack an, wenn sie ein Gericht kocht. Als sie mir zum ersten Mal das Chili-Rezept unserer Familie beibrachte, habe ich mich genau an die Anweisungen gehalten, aber jetzt improvisiere ich beim Chili-Kochen genauso wie sie!

Drängende Probleme erfordern völlig neue Fertigkeiten

Der Klimawandel ist ein dringendes gesellschaftliches Problem. Viele Unternehmen haben sich verpflichtet, Maßnahmen zu ergreifen, um die Auswirkungen des Klimawandels zu verlangsamen. Gibt es eine Möglichkeit, wie KI dabei helfen kann?

Nun, weniger Energieverbrauch bedeutet weniger Bedarf an Energie aus fossilen Brennstoffen. Wusstest du, dass 50 % des Energieverbrauchs in Gebäuden auf Heizungs-, Kühlungs-, Klima- und Lüftungsanlagen (HLK) entfallen? Hier bietet sich für KI die Gelegenheit, einen wesentlichen Beitrag zum Klimawandel zu leisten. Viele kommerzielle HLK-Systeme, wie z. B. solche, die Bürogebäude kühlen und heizen, werden von menschlichen Ingenieuren und Bedienern eingestellt und gesteuert.

Verschiedene Räume auf die richtige Temperatur zu bringen und gleichzeitig den Energieverbrauch sorgfältig zu steuern, ist nicht so einfach oder intuitiv, wie es scheint. Bei der Verwaltung des Energieverbrauchs eines Gebäudes oder eines Campus kommen mehrere Ebenen der Variabilität hinzu, z. B. die Steuerung von Kühltürmen, Wasserpumpen und Kühlanlagen. Erschwerend kommt hinzu, dass die Bewohner/innen das Gebäude im Laufe des Tages ständig betreten und verlassen. Es gibt zwar ein Muster (man denke nur an die Pendlerzeiten und die Verkehrslage), aber es ist schwierig, dieses Muster zu erkennen. Der Energiepreis ändert sich im Laufe des Tages. Es gibt Spitzenzeiten, in denen Energie am teuersten ist, und Schwachlastzeiten, in denen Energie billiger ist. Du kannst die Luft recyceln, um Geld für das Heizen der Außenluft zu sparen, aber die gesetzlichen Normen schreiben vor, wie viel Kohlendioxid in das Gebäude gelangen darf, was deine Möglichkeiten des Recyclings einschränkt. Jede Ebene der Komplexität macht es für einen Menschen schwieriger zu verstehen, wie sich die einzelnen Variablen auf das Ergebnis einer Steuerungseinstellung auswirken.

Microsoft hat eine autonome KI entwickelt , um die HLK-Systeme auf dem Redmond West Campus zu steuern. Der Campus verfügte zwar über automatisierte Systeme, aber diese Systeme können keine Überwachungsentscheidungen auf der Grundlage der Belegung und der Außentemperatur in Echtzeit treffen. Mein Team arbeitete mit Maschinenbauingenieuren zusammen, um ein Gehirn zu entwickeln, das diese Entscheidungen trifft, und das neue System verbraucht derzeit etwa 15% weniger Energie. Zwei Jahre zuvor hat Google erfolgreich eine KI getestet , die den Energieverbrauch in Rechenzentren um 40 % gesenkt hat. Wenn du dich fragst, warum die frühere KI mehr Verbesserungen erzielt hat, liegt das daran, dass Rechenzentren leichter zu kontrollieren sind. Sie werden weniger von äußeren Faktoren beeinflusst. Gewerbliche Gebäude müssen mit Dingen wie Sonneneinstrahlung (die meiste Wärme in gewerblichen Gebäuden kommt von der Sonne, die aus verschiedenen Winkeln und zu verschiedenen Zeiten in die Fenster scheint) und einer großen Anzahl von Menschen, die das Gebäude ständig betreten und verlassen, umgehen.

KI ist ein Werkzeug; nutze es für das Gute

Jeden Tag sehe ich in den sozialen Medien Menschen, die über die Ethik und die Gefahren der KI diskutieren. Ich stimme zwar zu, dass Ethik wichtig ist und dass wir als Gesellschaft sehr vorsichtig sein sollten, wie wir mit KI umgehen, aber der einzige Weg, um sicherzustellen, dass KI zum Guten eingesetzt wird, ist, KI zu entwickeln und zu bauen, die ausdrücklich nützliche, hilfreiche Dinge tut.

Ich habe gerade meinen ersten Designing Autonomous AI-Kurs für unterrepräsentierte Minderheiten in New York City mit der Urban Arts Partnership abgeschlossen. Es war eine großartige Erfahrung, mit so energiegeladenen und talentierten Studenten zu arbeiten!

Als Schwarzer, der in der KI-Forschung arbeitet, spüre ich jeden Tag die Last des ungleichen Zugangs zu fortschrittlichen Technologien wie KI. Wenn die vierte industrielle Revolution denjenigen, die sie anführen, Supermächte, enormen Reichtum und weitreichende Möglichkeiten bescheren kann, dann stellt der ungleiche Zugang zu KI so etwas wie ein kalkulierendes Kastensystem dar: 4 % der Belegschaft von Microsoft und Facebook sind schwarz; 2,5 % der Belegschaft von Google sind schwarz. Weniger als 20 % aller KI-Professoren sind Frauen, 18 % der wichtigsten Forschungsbeiträge auf KI-Konferenzen werden von Frauen verfasst, und nur 15 % der KI-Forschungsmitarbeiter bei Google sind Frauen.²

Robert J. Shiller, Wirtschaftsnobelpreisträger 2013, bringt es auf den Punkt:

Du kannst nicht warten, bis ein Haus abbrennt, um eine Feuerversicherung dafür abzuschließen. Wir können nicht warten, bis es in unserer Gesellschaft zu massiven Verwerfungen kommt, um uns auf die vierte industrielle Revolution vorzubereiten.

Fast jeder hat in gewissem Maße Zugang zu fortschrittlicher Technologie, aber diejenigen, die aufgrund ihres Einkommens, ihrer Ethnie oder ihrer Fähigkeiten zusätzlich ausgegrenzt werden, haben eine um ein Vielfaches geringere Chance, die Vorteile der Arbeit mit autonomer KI zu erfahren.

Ausgehend von den Prinzipien und Techniken in diesem Buch beabsichtige ich, den Zugang zu entscheidender autonomer KI weiter zu demokratisieren und sie den unterrepräsentierten und unterprivilegierten Menschen als Mittel zur Lösung gesellschaftlicher Probleme und für wirtschaftlichen Fortschritt in die Hand zu geben.

Stell dir erstens vor, dass ein Bediener in dem Chemieunternehmen, über das ich oben gesprochen habe (das mit dem Kunststoffextruder), nicht nur lernt, den Extruder gut zu steuern, sondern auch eine KI entwickelt und baut, die er mit in den Kontrollraum nimmt, um ihm bei seinen Entscheidungen zu helfen. Stell dir als Nächstes eine Gruppe von Schachspielern aus der Innenstadt von East Oakland, Kalifornien, vor, die alle Minderheiten sind und das Schachspielen gelernt haben, indem sie mit und gegen eine autonome KI gespielt haben, die sie entwickelt und unterrichtet haben. Wir haben noch viel zu tun, um diese Vision zu verwirklichen, aber der Fortschritt ist real und ich lade dich ein, deine Fähigkeiten bei der Entwicklung autonomer KI einzusetzen, um in Bereichen, die dir am Herzen liegen, Gutes zu tun.

¹ Stephen Jay Gould, The Structure of Evolutionary Theory (Belknap Press, 2002).

² Eine Version dieses Absatzes wurde ursprünglich veröffentlicht in Cases and Stories of Transformative Action Research: Five Decades of Collaborative Action and Learning von John Bilorusky (Routledge).