Kapitel 1. Mythen und Realitäten der KI

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com

Pamela McCorduck beschreibt in ihrem Buch Machines Who Think (W. H. Freeman) KI als einen "kühnen Versuch, in einem Artefakt zu duplizieren", was wir alle als unser wichtigstes Merkmal ansehen: menschliche Intelligenz. Ihr Buch aus dem Jahr 1979 bietet einen faszinierenden Einblick in das frühe Denken über KI - ohne Theoreme oder Wissenschaft zu verwenden, sondern stattdessen zu beschreiben, wie die Menschen dazu kamen, sich ihre Möglichkeiten vorzustellen. Bei etwas so Magischem und Ehrfurcht einflößendem wie KI ist es nicht schwer, sich die Übertreibungen vorzustellen, die damit einhergehen. In diesem Kapitel geht es darum, die Ehrfurcht aufrechtzuerhalten, sie aber in der Realität zu verankern.

Stuart Russell, ein Informatiker und einer der wichtigsten KI-Vordenker des 21. Jahrhunderts, diskutiert in seinem Buch Human Compatible (Viking) die Vergangenheit, Gegenwart und Zukunft der KI. Russell schreibt, dass KI schnell zu einem allgegenwärtigen Aspekt der Gegenwart wird und die dominierende Technologie der Zukunft sein wird. In keiner anderen Branche als im Gesundheitswesen ist das so wahr, und wir hoffen, dass wir in diesem Buch auf die Auswirkungen eingehen können.

Die meisten Menschen verbinden mit dem Begriff " künstliche Intelligenz" eine Reihe von Eigenschaften und Fähigkeiten, die ihr zugeschrieben werden - einige davon sind real, andere futuristisch und wieder andere imaginär. KI hat zwar einige Superkräfte, aber sie ist kein Allheilmittel, das die explodierenden Gesundheitskosten und die wachsende Krankheitslast lösen wird. Dennoch bietet der durchdachte Einsatz von KI im Gesundheitswesen eine enorme Chance, den Menschen zu einem gesünderen Leben zu verhelfen, die Gesundheitskosten zu kontrollieren und bessere Ergebnisse zu erzielen. In diesem Kapitel werden die Mythen rund um KI im Gesundheitswesen und in der Technologie beschrieben, um anschließend zu erörtern, wie KI-gestützte Apps, Systeme, Prozesse und Plattformen enorme Vorteile in Bezug auf Qualität, Geschwindigkeit, Effektivität, Kosten und Kapazität bieten und es den Ärzten ermöglichen, sich auf die Menschen und ihre Gesundheitsversorgung zu konzentrieren.

Ein großer Teil des Hypes um KI rührt von der Leistung von maschinellen Lernmodellen im Vergleich zu Menschen, oft Klinikern. Es gibt viele Veröffentlichungen und Algorithmen, in denen beschrieben wird, dass maschinelle Lernmodelle den Menschen bei verschiedenen Aufgaben - von der Bild- und Stimmerkennung bis zur Sprachverarbeitung und Vorhersage - übertreffen. Das wirft die Frage auf, ob maschinelles Lernen (ML) in der Diagnostik zur Norm werden wird. Die Leistung dieser Modelle in der klinischen Praxis unterscheidet sich jedoch oft von ihrer Leistung im Labor; maschinelle Lernmodelle, die auf Trainings- und Testdaten aufbauen, schlagen manchmal fehl, wenn es um die Erkennung von Objekten (z. B. die Identifizierung eines Tumors) oder die Vorhersage von Krankheiten geht. Die Daten in der realen Welt sind anders, d.h. die Trainingsdaten stimmen nicht mit den realen Daten überein, und das führt zu einer Datenverschiebung. So kann zum Beispiel eine einfache Veränderung der Hauttypen dazu führen, dass ein im Labor trainiertes Modell im klinischen Umfeld an Genauigkeit verliert. ML-Diagnostiker/innen könnten unsere Zukunft sein, aber es bedarf noch weiterer Innovationen, damit Algorithmus-Diagnostiker/innen Realität werden können.

Die Übertreibungen und Mythen, die sich um KI ranken, verwischen die Möglichkeiten, die mit KI möglich sind. Bevor wir über diese Mythen sprechen, sollten wir verstehen, was wir mit KI meinen. Beschreibungen von KI gibt es zuhauf, aber der Nutzen von KI ist wichtiger als eine Definition. Ein Großteil dieses Buches befasst sich mit dem Nutzen von KI. Wir sorgen für Klarheit und helfen dabei, den Kontext und die Bedeutung des Begriffs KI zu verstehen. Ein kurzer Blick auf seinen Ursprung bietet einen nützlichen Rahmen, um zu verstehen, wie KI heute verstanden und genutzt wird.

Ursprünge und Definition von KI

Die Vorstellung der Menschen, was mit künstlichem Leben und Maschinen möglich ist, ist seit Jahrhunderten im Entstehen. In ihrem 2018 erschienenen Buch Gods and Robots (Princeton University Press) zeichnet die Wissenschaftlerin Adrienne Mayor ( ) ein Bild der menschlichen Vorstellungen von künstlichem Leben in den frühen Jahren der aufgezeichneten Geschichte. Sie schreibt über antike Träume und Mythen, in denen die Technologie den Menschen verbessert. Ein paar tausend Jahre später, im Jahr 1943, stellten zwei Forscher aus Chicago den Begriff der neuronalen Netze in einer Arbeit vor, in der sie ein mathematisches Modell beschrieben. Die beiden Forscher - der Neurowissenschaftler Warren S. McCulloch und der Logiker Walter Pitts - versuchten zu erklären, wie die komplexen Entscheidungsprozesse des menschlichen Gehirns mithilfe der Mathematik funktionieren. Dies war die Geburtsstunde der neuronalen Netze und der Beginn der künstlichen Intelligenz, wie wir sie heute kennen.

Jahrzehnte später hängt in einer kleinen Stadt am Connecticut River in New Hampshire eine Gedenktafel in der Dartmouth Hall, die an ein Sommerforschungsprojekt von 1956 erinnert, eine Brainstorming-Sitzung, die von Mathematikern und Wissenschaftlern durchgeführt wurde. Die Namen der Gründerväter der Künstlichen Intelligenz sind auf der Tafel eingraviert, um sie für ihre Beiträge während dieser Sommersitzung zu ehren, bei der zum ersten Mal der Begriff "Künstliche Intelligenz" verwendet wurde. John McCarthy, der als Vater der Künstlichen Intelligenz bekannt ist, wird für die Prägung des Begriffs geehrt.

Die Teilnehmer/innen der Sommersitzung in Dartmouth stellten sich künstliche Intelligenz als Computer vor, die Dinge tun, die wir als Ausdruck menschlicher Intelligenz wahrnehmen. Sie diskutierten Ideen, die von Computern, die menschliche Sprache verstehen, bis hin zu Maschinen reichen, die wie das menschliche Gehirn mit Hilfe von Neuronen arbeiten. Was wäre ein besserer Ausdruck von Intelligenz als Geräte, die menschliche Sprache sprechen und verstehen können, was heute als natürliche Sprachverarbeitung bekannt ist? Während dieser Sommersitzung ließen sich die KI-Gründer von der Funktionsweise des menschlichen Gehirns inspirieren, das Informationen zwischen Eingaberezeptoren, Neuronen und tiefer Hirnsubstanz weiterleitet. So entstand der Gedanke, künstliche Neuronen als Technik zur Nachahmung des menschlichen Gehirns einzusetzen.

Der Enthusiasmus und die Versprechungen für die Umgestaltung des Gesundheitswesens sind groß, aber dieses Ziel bleibt unerreichbar. In den 1960er Jahren führte die KI-Gemeinschaft Expertensysteme ein, die versuchen, das Fachwissen eines Experten (z. B. eines Arztes) mithilfe von Regeln auf Computer zu übertragen und diese dann auf eine Wissensbasis anzuwenden, um daraus neue Informationen abzuleiten (Inferenz). In den 1970er Jahren waren regelbasierte Systeme wie MYCIN, ein KI-System, das für die Behandlung von Blutinfektionen entwickelt wurde, sehr vielversprechend. MYCIN versuchte, Patienten anhand ihrer Symptome und klinischen Testergebnisse zu diagnostizieren. Obwohl seine Ergebnisse besser oder vergleichbar mit denen von Spezialisten für Blutinfektionen waren, kam es in der klinischen Praxis nicht zum Einsatz. Ein anderes medizinisches Expertensystem, CADUCEUS, versuchte, MYCIN zu verbessern. MYCIN, CADUCEUS und andere Expertensysteme (wie z. B. INTERNIST-I) veranschaulichen die Bemühungen der KI-Gemeinschaft, klinische Diagnoseinstrumente zu entwickeln, aber keines dieser Systeme fand den Weg in die klinische Praxis.

Diese Situation besteht auch heute noch; KI im Gesundheitswesen ist nicht ohne Weiteres am Krankenbett zu finden. Mehrere Forschungsarbeiten zeigen, dass KI bei Aufgaben wie der Diagnose von Krankheiten besser abschneidet als Menschen. So sind Deep-Learning-Algorithmen Radiologen bei der Erkennung von bösartigen Tumoren überlegen. Doch diese "überlegenen" Algorithmen zur Krankheitserkennung bleiben größtenteils in den Labors. Werden diese maschinellen Diagnosetools das gleiche Schicksal erleiden wie die Expertensysteme des 20. Jahrhunderts? Jahrhunderts? Wird es noch viele Jahre dauern, bis die KI den Menschen im klinischen Bereich wesentlich unterstützt?

Wir sind nicht mehr in den 1970er Jahren; KI durchdringt das Gesundheitswesen heute auf vielfältige Weise - zum Beispiel in der Produktion. Künstliche Intelligenz hilft Forschern bei der Entwicklung von Medikamenten für verschiedene Krankheiten, wie z. B. Krebs. Das Beth Israel Deaconess Medical Center, ein Lehrkrankenhaus der Harvard Medical School, setzt KI ein, um mögliche tödliche Blutkrankheiten zu diagnostizieren. Es setzt KI-gestützte Mikroskope ein, um in Blutproben nach schädlichen Bakterien wie E. coli zu suchen, und arbeitet dabei schneller als beim manuellen Scannen. Die Verarbeitung natürlicher Sprache ist weit verbreitet, um die Extraktion und Kodierung klinischer Daten aus Arztberichten zu automatisieren. Mehrere Tools, die heute in der Produktion eingesetzt werden, nutzen natürliche Sprachverarbeitung für die klinische Kodierung. Maschinelles Lernen hilft dabei, Patienten zu den optimalen Anbietern zu leiten. Seit Jahrzehnten wird maschinelles Lernen eingesetzt, um Betrug zu erkennen und Verschwendung zu reduzieren. Die weit verbreitete Einführung von KI in bestimmten Anwendungsfällen in Unternehmen des Gesundheitswesens und die jüngsten Innovationen im Bereich KI versprechen eine Ausweitung des Einsatzes von KI im klinischen Bereich.

Dieses Buch zum Thema KI im Gesundheitswesen möchte eine andere Zukunft für die breite Einführung von KI im Gesundheitswesen aufzeigen, sowohl in der Klinik als auch in den Haushalten der Menschen. Kliniker/innen und Technolog/innen diskutieren weiterhin aktiv über den Einsatz von KI im Gesundheitswesen. Auf einem Symposium im Jahr 2019, an dem Kliniker/innen, politische Entscheidungsträger/innen, Gesundheitsfachkräfte und Informatiker/innen teilnahmen, wurden Beispiele aus der Praxis vorgestellt, wie KI aus dem Labor in die Klinik kommt.¹ Auf dem Symposium wurden drei Themen für den Erfolg hervorgehoben: Planung des Lebenszyklus, Einbeziehung der Interessengruppen und Einbindung von KI-Produkten und -Tools in bestehende Arbeitsabläufe.

Seit der Erfindung der neuronalen Netze im Jahr 1943 hat sich viel verändert. KI entwickelt sich jedes Jahrzehnt weiter, was erklärt, warum ein Konsens über eine KI-Definition schwer zu erreichen ist. Da wir nicht alle mit der gleichen Definition arbeiten, gibt es viel Verwirrung darüber, was KI ist und was sie nicht ist. Wie künstliche Intelligenz definiert wird, kann davon abhängen, wer die Erklärung liefert, vom Kontext und vom Grund für die Definition. KI ist ein weit gefasster Begriff, der unsere Absicht beschreibt, menschenähnliche intelligente Wesen für ausgewählte Aufgaben zu schaffen. Das Ziel ist es, mit Hilfe von Wissenschaft, Mathematik und Technologie die menschliche Intelligenz mit Maschinen nachzuahmen oder zu replizieren, und wir nennen das "KI". In diesem Buch werden wir verschiedene intelligente Einheiten erforschen, wie z. B. erweiterte Ärzte, Vorhersagemaschinen, virtuelle Pflegebereiche und mehr, die die Ergebnisse der Gesundheitsversorgung, die Patientenversorgung, die Erfahrungen und die Kosten verbessern.

Wir bauen und zeigen immer wieder Systeme, Maschinen und Computer, die das können, was wir bisher nur von Menschen für möglich hielten: beim Damespiel gewinnen, den amtierenden Schachweltmeister besiegen, die besten Jeopardy! -Kandidaten schlagen. Berühmt ist das Computerprogramm AlphaGo, das Weltmeister im 4.000 Jahre alten abstrakten Strategiespiel Go besiegt hat und die menschliche Leistung in diesem Spiel nachahmt (und übertrifft). Es gibt zahlreiche Artikel über maschinelle Lernmodelle in Laboren, die Ärzte bei bestimmten Aufgaben übertreffen, z. B. bei der Erkennung möglicher Krebstumore in bildgebenden Untersuchungen; dies deutet darauf hin, dass KI eines Tages einige ärztliche Fachrichtungen, wie z. B. Radiologen, ersetzen könnte.

KI und maschinelles Lernen

Eine zentrale Aussage dieses Buches ist, dass künstliche Intelligenz mehr umfasst als maschinelles Lernen. Wenn wir KI nur im Zusammenhang mit maschinellem Lernen sehen, ist es zweifelhaft, dass wir jemals intelligente Systeme entwickeln werden, die die menschliche Intelligenz bei der Durchführung von klinischen oder gesundheitlichen Tätigkeiten widerspiegeln, oder dass wir KI schaffen, die die Erfahrungen der Patienten wesentlich verbessert, die Kosten senkt und die Gesundheit der Menschen und die Lebensqualität der Beschäftigten im Gesundheitswesen verbessert.

Die meisten veröffentlichten KI-Implementierungen zeigen die Erfolge von ML-Modellen, was erklärt, warum viele eine Gleichsetzung von maschinellem Lernen und KI sehen. Außerdem nutzen die gängigsten KI-Anwendungen, die Deep Learning, Computer Vision oder die Verarbeitung natürlicher Sprache einsetzen, alle maschinelles Lernen.

Die Annahme, dass maschinelles Lernen dasselbe ist wie KI, ignoriert oder vernachlässigt die Aspekte eines Software-Stacks, die zum Aufbau intelligenter Systeme verwendet werden und nicht zum maschinellen Lernen gehören. Oder schlimmer noch: Unsere Vorstellung oder unser Wissen darüber, was mit KI möglich ist, beschränkt sich auf die Funktionen, die durch maschinelles Lernen implementiert werden können.

KI umfasst viele der Komponenten des KI-Stapels in Abbildung 1-1, der die vielen Fähigkeiten der KI über das maschinelle Lernen hinaus veranschaulicht.

Das Bestreben der KI, Maschinen mit menschenähnlicher Intelligenz zu schaffen, erfordert mehr als nur eine Lernfähigkeit. Wir erwarten und brauchen die vielen KI-Fähigkeiten für die Entwicklung von Gesundheitslösungen, die in Abbildung 1-1 dargestellt sind. Die Umgestaltung des Gesundheitswesens durch KI umfasst Funktionen wie Computer Vision, Sprache, Audio, Denken und Planung. Bei einigen Problemen können wir der KI Autonomie gewähren; in unserer Diskussion über Ethik weiter unten im Buch gehen wir auf die Auswirkungen und Risiken eines solchen Vorgehens ein.

Die KI-Funktionen in einer Implementierung hängen vom jeweiligen Problem ab. Auf einer Intensivstation kann es zum Beispiel sinnvoll sein, dass die KI über Audiofunktionen verfügt, um Fragen und Antworten zwischen KI und Ärzten zu ermöglichen. Ein Arzt, der sich mit der KI unterhält, muss die Sprache der KI beherrschen. KI muss in der Lage sein, die natürliche Sprache von Menschen zu verstehen, d.h. sie muss über natürliche Sprachverarbeitung (NLP) verfügen. Die KI muss in der Lage sein, Sprache in Text umzuwandeln und Text zu adressieren, um eine umfassende Konversation zu ermöglichen. Wir brauchen Sensoren, um Bewegungen zu erkennen, z. B. wenn ein Patient aus dem Bett fällt, und die KI muss Alarme auslösen. Um diesen intelligenten Raum auf der Intensivstation zu ermöglichen, , brauchen wir kontinuierliches Lernen. All diese Funktionen erfordern maschinelles Lernen. Es wäre falsch, KI als eine einzelne Sache oder eine einzelne Maschine zu betrachten. Auf der Intensivstation zum Beispiel wäre KI ein Teil der Umgebung. Durch die Einbindung von KI in Sprachlautsprecher, Sensoren und andere intelligente Dinge, die zusammenarbeiten, entsteht eine menschenähnliche Intelligenz, die das medizinische Personal unterstützt. Wir wissen, dass sich Patienten an weniger als 50 % der Kommunikation zwischen Arzt und Patient erinnern können.² Darin liegt eine der vielen Möglichkeiten, KI zur Verbesserung der Interaktion zwischen Patient und Arzt einzusetzen.

Der KI-Stack kann sowohl einen Hardware- als auch einen Software-Stack umfassen, d.h. eine Reihe von Komponenten, die für die Erstellung einer Komplettlösung benötigt werden. Anhand des KI-Stacks in Abbildung 1-1 geben die folgenden Abschnitte einen kurzen Überblick über die KI-Funktionen, beginnend mit maschinellem Lernen und neuronalen Netzen.

Maschinelles Lernen und neuronale Netze

Es gibt verschiedene Arten oder Unterkategorien des maschinellen Lernens, z. B. überwachtes Lernen, unbeaufsichtigtes Lernen und Deep Learning.

Beim überwachten Lernen trainieren wir den Computer anhand von Daten, die beschriftet sind. Wenn wir wollen, dass ein ML-Modell die Mutter eines Kindes erkennt, stellen wir eine große Anzahl von Bildern der Mutter zur Verfügung und kennzeichnen jedes Foto als "die Mutter". Oder wenn ein ML-Modell eine Lungenentzündung auf einem Röntgenbild erkennen soll, nehmen wir viele Röntgenbilder von Lungenentzündungen auf und kennzeichnen jedes als solches. Im Grunde genommen markieren wir die Daten mit der richtigen Antwort. Das ist so, als ob du einen Supervisor hättest, der dir alle richtigen Lösungen für deinen Test gibt. Ein überwachter Algorithmus für maschinelles Lernen lernt aus markierten Trainingsdaten. Das heißt, wir überwachen das Training des Algorithmus. Beim überwachten maschinellen Lernen setzen wir einen Computer ein, um Dinge zu identifizieren, zu sortieren und zu kategorisieren. Wenn wir Tausende von Röntgenbildern durchforsten müssen, um eine Lungenentzündung zu erkennen, werden wir diese Aufgabe mit einem Computer, der maschinelles Lernen einsetzt, wahrscheinlich schneller erledigen als mit einem Arzt. Aber nur weil der Computer den Arzt bei dieser Aufgabe übertrifft, heißt das noch lange nicht, dass der Computer in der klinischen Versorgung besser ist als ein Arzt.

Ein Großteil des Lernens, das wir als Menschen betreiben, ist unbeaufsichtigt, ohne den Nutzen eines Lehrers. Wir geben unüberwachten Lernmodellen keine Antworten, und sie verwenden keine markierten Daten. Stattdessen bitten wir den Algorithmus, das Modell, die Antwort zu finden. Auf das Beispiel der Mutter des Kindes angewandt, geben wir dem Algorithmus zur Gesichtserkennung Merkmale wie Hautton, Augenfarbe, Gesichtsform, Grübchen, Haarfarbe oder den Abstand zwischen den Augen vor. Unüberwachtes maschinelles Lernen erkennt die einzigartigen Merkmale der Mutter des Kindes; es lernt aus den Daten und identifiziert "die Mutter" auf Bildern mit hoher Genauigkeit.

Deep Learning verwendet eine Reihe von Algorithmen, um Antworten zu finden. Die Daten werden auf der einen Seite, der Eingabeschicht, eingegeben und durchlaufen die versteckte(n) Schicht(en), um spezifische Informationen zu erhalten, die in die Ausgabeschicht einfließen und zu einer Erkenntnis führen. Wir bezeichnen diese Schichten oder Reihen von Algorithmen als neuronales Netz. Abbildung 1-2 zeigt ein neuronales Netz mit drei Schichten. Die Ausgabe jeder Schicht ist die Eingabe für die nächste Schicht. Die Tiefe des neuronalen Netzes gibt die Anzahl der Schichten an, die durchlaufen werden, um die Ausgabeschicht zu erreichen. Wenn ein neuronales Netz aus mehr als drei Schichten oder mehr als einer verborgenen Schicht besteht, gilt es als tief und wir bezeichnen diese maschinelle Lerntechnik als Deep Learning. Es wird oft gesagt, dass das neuronale Netz die Funktionsweise des menschlichen Gehirns nachahmt, aber in Wirklichkeit ist das neuronale Netz ein Versuch, das Netzwerk der Neuronen zu simulieren, aus denen das menschliche Gehirn besteht, damit Maschinen wie Menschen lernen können.

Das neuronale Netzwerk erlaubt es, die Parameter so lange zu verändern, bis das Modell die gewünschte Leistung erbringt. Da das Ergebnis nach unserem Geschmack eingestellt werden kann, ist es eine Herausforderung, "unsere Arbeit zu zeigen", was zu der Einstufung als "Blackbox" führt. Wir machen uns weniger Gedanken darüber, wie das Modell zu seinem Ergebnis gekommen ist, und konzentrieren uns stattdessen darauf, immer das gleiche Ergebnis zu erhalten. Je mehr Daten das neuronale Netzwerk durchläuft, desto unwahrscheinlicher wird es, dass wir genau herausfinden können, warum das Modell funktioniert, und wir konzentrieren uns auf die Genauigkeit des Modells.

Menschen und Maschinen lernen unterschiedlich. Wir bringen Maschinen mit vordefinierten Algorithmen und markierten Daten (z. B. Tumor oder Nicht-Tumor) bei, bestimmte Bilder als Tumor zu erkennen. Ein Kind kann seine Mutter mit minimalem Training und ohne viele Bilder von seiner Mutter und von Menschen, die nicht seine Mutter sind, erkennen. Aber eine Maschine braucht genügend Daten (z. B. Tumor/Nicht-Tumor), um die "Fähigkeit" zu entwickeln, zu lernen, ob ein Bild "die Mutter" ist.

Ein maschinelles Lernmodell, oft synonym, aber ungenau als Algorithmus bezeichnet, lernt aus Daten. Diese Algorithmen werden in Code implementiert. Algorithmen sind nur die "Regeln", wie ein algebraischer Ausdruck, aber ein Modell ist eine Lösung. Algorithmen für maschinelles Lernen sind konstruierte Mechanismen, die die konstruierten Eingaben durch die Algorithmen laufen lassen, um die Wahrscheinlichkeit der Ziele zu erhalten. Die Auswahl der Optionen und die Abstimmung der Hyperparameter erhöhen die Ergebnisgenauigkeit des Modells und kontrollieren die Modellierungsfehler. Die Daten werden in Trainings- und Testdaten aufgeteilt, wobei die Trainingsdaten zur Erstellung eines Modells und die Testdaten zur Validierung des Modells verwendet werden. Vor dem Einsatz des Modells in der Produktion ist eine funktionsübergreifende Validierung erforderlich, um sicherzustellen, dass die neuen Daten ein ähnliches Ergebnis liefern. Abbildung 1-3 veranschaulicht ein einfaches Regressionsmodell. Diese Abbildung zeigt eine lineare Beziehung zur Zielvariable Y aus den im Modell verwendeten Merkmalen x1, x2, .... Ein erster Schritt besteht darin, das Ziel zu definieren, das vorhergesagt werden soll, die Datenquelle zu finden, um das Feature Engineering durchzuführen, das die verwandten Variablen identifiziert, und die verschiedenen Algorithmen zu testen, die am besten zu den Daten und dem Ziel passen. Ein Bewertungsmechanismus, der sogenannte F1-Score, wird verwendet, um die Leistung des Modells zu überprüfen.

Ein leicht zu verstehendes Beispiel ist die Sortierung unserer E-Mails in Kategorien wie "Spam" und "Posteingang". Wir könnten ein Computerprogramm mit If/Then/Else-Anweisungen schreiben, um die Sortierung vorzunehmen, aber dieser handwerkliche Ansatz würde viel Zeit in Anspruch nehmen. Außerdem wäre er anfällig, denn was Spam ist, ändert sich ständig, sodass wir das Computerprogramm ständig mit weiteren If/Then/Else-Anweisungen aktualisieren müssten, wenn wir mehr über neue Spam-E-Mails erfahren. Algorithmen des maschinellen Lernens können lernen, wie man E-Mails als Spam oder Posteingang klassifiziert, indem sie mit großen Datensätzen trainieren, die Spam enthalten.

Sobald wir uns davon überzeugt haben, dass das Modell mit verschiedenen Daten funktioniert, integrieren wir das Modell oder die Datei in einen Workflow oder ein Produkt wie E-Mail oder ein Tool zur Krankheitsvorhersage. Das Modell kann mit neuen Daten umgehen, ohne dass wir es manuell kodieren müssen, und das Modell wird von verschiedenen Nutzern des E-Mail-Produkts verwendet. In diesem E-Mail-Beispiel haben wir Daten beschriftet, was überwachtes Lernen ist.

Computer Vision und natürliche Sprachverarbeitung (NLP)

Computer Vision (CV), ein Teilgebiet der KI, versucht, Computern zu helfen, die visuelle Welt zu verstehen. Die visuelle Welt im Gesundheitswesen umfasst viele Dinge; eine kurze (und unvollständige) Liste umfasst:

Standbilder, wie z. B. Röntgenbilder zur Erkennung von Lungenentzündungen
Fotos, die Hautläsionen zeigen
Sensoren, die Bewegungen wie Stürze oder Aktivitäten in der Wohnung erkennen
Faxe mit handschriftlichen Notizen des Arztes
Videos zu möglichen Gesundheitsproblemen

Computer Vision ermöglicht es Maschinen, diese visuellen Objekte zu sehen und zu verstehen und dann zu reagieren. Oft hilft maschinelles Lernen bei der Identifizierung und Klassifizierung von Objekten.

Natürliche Sprachverarbeitung (NLP) ermöglicht es Maschinen, menschliche Sprachen zu lesen und zu verstehen. Das Verstehen und Erzeugen von Sprache (d.h. Schreiben und Sprechen) ist für die menschliche Intelligenz unerlässlich. NLP ermöglicht es Computern, klinische Notizen zu lesen, Schlüsselwörter und Phrasen zu analysieren und die Bedeutung daraus zu extrahieren, damit Menschen verwertbare Erkenntnisse gewinnen und nutzen können. NLP kann nützlich sein, um wichtige Elemente aus Interaktionen zwischen Patient und Arzt zu extrahieren und die Erfassung von Inhalten in elektronischen Krankenakten zu automatisieren.

Planung und Argumentation

Der Mensch plant als natürlicher Teil seines Lebens. Die Lösung vieler Probleme im Gesundheitswesen erfordert, dass KI eine Planungskomponente realisiert. Planung und maschinelles Lernen ergänzen sich bei der Lösung anspruchsvoller Probleme. Als Google das Computerprogramm AlphaGo entwickelte, um einen der weltbesten Strategiespieler im Brettspiel Go zu schlagen, nutzte das Programm Planung und Lernen. Bei dem Spiel verwendete AlphaGo ein Simulationsmodell, Monte Carlo und Deep Learning, um die Wahrscheinlichkeit bestimmter Ergebnisse vorherzusagen. In diesem Beispiel muss der Computer autonom und flexibel handeln, um eine Abfolge von Aktionen zu erstellen, mit denen er ein Ziel erreicht. Er nutzt maschinelles Lernen und Techniken wie Rechenalgorithmen, auch Monte Carlo genannt, um seinen nächsten Zug zu bestimmen. Die Planung kann in Form von Wenn/Dann/Else-Logik oder Algorithmen erfolgen - was auch immer nötig ist, um ein intelligentes System zu entwickeln, das zur Lösung einer Aufgabe notwendig ist.

Ein weiterer Aspekt der Planung betrifft die Blackbox-Herausforderung des Deep Learning. Die Tatsache, dass wir nicht erklären können, wie ein Modell konstant eine Genauigkeit von z.B. 95% erreicht, bedeutet nicht, dass wir nicht in der Lage sind, die Ergebnisse der KI zu erklären. Die Leistung eines Modells führt vielleicht nicht zur klinischen Anwendung, aber die Transparenz des Modells bringt uns diesem Ziel näher, und das ist Teil der KI-Planung. Wie alle Bereiche der KI ist auch die interpretierbare KI ein Forschungsbereich, in dem Start-ups und Forscher daran arbeiten, das Rätselraten aus der KI herauszunehmen.

Neben der Planung müssen viele KI-Lösungen auch ein schlussfolgerndes Element enthalten. Maschinen ziehen Schlüsse aus Daten, was eine Form des Denkens ist. Frühe KI-Forscher entwickelten Algorithmen und verwendeten Wenn-Dann-Else-Regeln, um das einfache, schrittweise Denken von Menschen nachzuahmen, die Probleme lösen und logische Schlussfolgerungen ziehen. Die ersten Inferenzmaschinen und Entscheidungshilfesysteme in den 1960er Jahren nutzten diese Art von Techniken.

Maschinelles Lernen erledigt viele Aufgaben besser als der Mensch, aber nicht das Schlussfolgern. Abbildung 1-4 zeigt ein Bild von zwei unterschiedlich großen Zylindern und einem Kasten. Jeder Fünfjährige könnte die nicht-relationalen und relationalen Fragen auf dem Bild beantworten. Aber ein Computer, der Deep Learning einsetzt, wäre nicht in der Lage, implizite Beziehungen zwischen verschiedenen Dingen zu verstehen - etwas, das Menschen sehr gut können.

Im Juni 2017 veröffentlichte DeepMind ein Papier, in dem eine neue Technik, die Relation Networks, vorgestellt wurde, mit der Beziehungen zwischen Objekten erkannt werden können.³ DeepMind verwendet eine Reihe von KI-Techniken in Kombination, um Antworten auf relationale Fragen zu erhalten. Die Entwicklung des logischen Denkens in der KI ist ein sich ständig weiterentwickelndes Forschungsgebiet. Lösungen für das Gesundheitswesen, die logisches Denken erfordern, werden sowohl alte und neue KI-Techniken als auch neue Forschungsergebnisse berücksichtigen.

Autonomie

Es gibt Fälle, in denen wir wollen, dass KI eigenständig agiert, Entscheidungen trifft und Maßnahmen ergreift. Ein offensichtliches Beispiel ist, wenn KI in einem autonomen Fahrzeug das Leben eines Fußgängers retten kann. Im Gesundheitswesen wünschen sich Menschen, die Ansprüche anmelden, sofortige positive Antworten. Autonome KI-Systeme erledigen Aufgaben wie die Bewilligung von Anträgen oder die Genehmigung von Wiederaufnahmen, und KI erreicht diese Ziele, ohne mit Menschen zu interagieren. Autonome Systeme können ergänzend eingesetzt werden, indem sie Fragen von Ärzten beantworten oder einen Arzt bei einer Aufgabe anleiten. Der Grad der Autonomie im Gesundheitswesen wird unterschiedlich sein und sich an den Autonomiestufen für Fahrzeuge orientieren.⁴ Autonomie in der KI ist kein Alles-oder-Nichts-Prinzip. KI im Gesundheitswesen darf keinen Schaden anrichten und sollte in vielen Fällen einen höheren Sorgfaltsstandard haben als KI in Fahrzeugen. Die Entwicklung autonomer Lösungen für das Gesundheitswesen muss ein menschenzentrierter Prozess sein. Ingenieurinnen und Ingenieure sollten Automatisierung, bei der KI eine Aufgabe ständig wiederholen kann, nicht mit autonomer KI verwechseln. Der Mensch muss in der Schleife bleiben.

Mensch-KI-Interaktionen

Ein weiterer wichtiger Grundsatz des KI-First-Ansatzes ist, dass der Mensch immer mit dabei ist. KI kann nicht im luftleeren Raum operieren; Menschen werden benötigt, um Daten zu kuratieren und bereitzustellen, Daten auf Verzerrungen zu überprüfen, maschinelle Lernmodelle zu pflegen und die Gesamteffizienz von KI-Systemen im Gesundheitswesen zu verwalten. KI wird nicht immer richtig sein - es kann auch mal etwas schiefgehen. Die Erfahrung und die Fähigkeit des Menschen, zu reagieren, sind entscheidend für die Weiterentwicklung von KI-Systemen und ihre Effektivität im klinischen Umfeld und im Gesundheitswesen insgesamt.

Es ist erstaunlich, dass KI und ML ein selbstverständlicher Teil unseres Wortschatzes und allgegenwärtige Begriffe auf der ganzen Welt sind. Es ist klar, dass KI einen Aufschwung erlebt hat und sich weiter ausbreitet. Der nächste Abschnitt beschäftigt sich mit der Verbreitung von KI.

AI Übergänge

Innovationen in der KI ermöglichen es ihr, dem Ziel, die menschliche Intelligenz zu imitieren, in großen Sprüngen näher zu kommen. Abbildung 1-5 hebt die wichtigsten Innovationen hervor, die den Weg für neue KI-Anwendungen und -Lösungen im Gesundheitswesen und in anderen Branchen geebnet haben.

Arthur Samuel, ein Pionier der Künstlichen Intelligenz, entwickelte 1952 ein Computerprogramm, das Dame spielte. Es gilt als das erste Computerprogramm, das selbstständig lernte - daserste maschinelle Lernprogramm überhaupt. In den folgenden Jahren entstanden Expertensysteme und entscheidungsunterstützende Systeme wie MYCIN, CADUCEUS und INTERNIST-I, die wir bereits besprochen haben.

Viele der KI-Aktivitäten des frühen 20. Jahrhunderts nutzten prozedurale Programmierlogik als primäre Programmiertechnik und Heavy Lifting als unterstützende Infrastruktur. Das berühmteste Beispiel für diese Welle war vielleicht der Sieg des IBM-Computers Deep Blue über einen der größten intellektuellen Schachmeister der Menschheit, Gary Kasparov. Damals dachten wir, dies sei ein Zeichen dafür, dass die künstliche Intelligenz die menschliche Intelligenz einholt. IBMs Deep Blue war ein spezieller, eigens für diesen Zweck gebauter Computer, der von vielen als "Brute Force" bezeichnet wurde, sowohl was die Hardware als auch was die Software angeht. Es ist erwähnenswert, dass einer der Programmierer von Deep Blue auf die Frage, wie viel Arbeit in die KI gesteckt wurde, mit "keine Arbeit" antwortete. Er beschrieb Deep Blue nicht als ein KI-Projekt, sondern als ein Projekt, das mit der brachialen Kraft von Computern Schach spielt, um schnelle Berechnungen durchzuführen und Möglichkeiten durchzugehen.

Der "KI-Winter" ist eine metaphorische Beschreibung für die Zeit der KI-Forschung und -Entwicklung, in der das Interesse und die Finanzierung stark zurückgegangen sind. Der Hype und die Übertreibung um die KI zu Beginn des 20. Jahrhunderts gingen nach hinten los, da die vorhandene Technologie hinter den Erwartungen zurückblieb. Algorithmische KI hat den Menschen nicht überholt. Die in Science-Fiction-Filmen gezeigte KI war nicht real.

1966 wurde die staatliche Förderung der NLP-Forschung eingestellt, da maschinelle Übersetzungen teurer waren als der Einsatz von Menschen. Die Regierungen stellten die KI-Forschung ein, und KI-Forscher/innen hatten es schwer, Arbeit zu finden. Dies war eine dunkle Zeit für die KI, ein Winter. Die Lieferausfälle, die aus dem Ruder gelaufenen Projekte und die gesunkenen Kosten von Regierungen und Industrie führten zum ersten KI-Winter. KI war ein Traum, und es wurde zu einer akzeptierten Prämisse, dass KI nicht funktioniert. Dieses Denken setzte sich fort, bis die Analytik zum Schlagwort wurde. Die Techniken des maschinellen Lernens und der prädiktiven Analytik waren geboren, und der zweite KI-Winter war im Gange.

Im Jahr 2011 setzte IBM erneut ein Zeichen für die KI, als das IBM Watson-Computersystem bei Jeopardy! gegen die legendären Champions Brad Rutter und Ken Jennings antrat und gewann! Die Entwicklung des IBM Watson-Systems aus dem Jahr 2011 dauerte mehrere Jahre, und wieder wurde bei der Hardware-Implementierung rohe Gewalt eingesetzt, während auf der technischen Seite viel Mathematik, maschinelles Lernen und NLP zum Einsatz kamen. Weder die Grafikprozessoren (GPUs) noch das Deep Learning, das für die KI des 21. Jahrhunderts charakteristisch ist, haben sich durchgesetzt. Für den zufälligen Betrachter mag es den Anschein haben, dass IBM Watson bei Jeopardy! KI in Form von Konversation betreibt, aber das war nicht der Fall, denn IBM Watson hörte nicht zu und verarbeitete kein Audio. Stattdessen wurden ASCII-Dateien übertragen.

Fairerweise muss man sagen, dass IBM Watson und sein Jeopardy!-gewonnenes System mit seiner innovativen Arbeit zum Verstehen natürlicher Sprache das Fachgebiet vorangebracht haben.

Was wir heute mit KI machen können, unterscheidet sich natürlich von dem, was wir in den 1950er, 1960er, 1970er, 1980er, 1990er und frühen 2000er Jahren machen konnten. Obwohl wir viele der gleichen Algorithmen und einen Großteil der gleichen Informatik verwenden, hat sich in der KI eine Menge getan. Deep Learning, neue Algorithmen, Grafikprozessoren und riesige Datenmengen sind die wichtigsten Unterschiede. In der Industrie und in der akademischen Welt hat es eine Explosion neuen Denkens gegeben, und heute erlebt die KI eine Renaissance, vor allem dank Deep Learning.

Die Demonstration von neuronalen Netzen, Deep-Learning-Algorithmen und das Erreichen der menschlichen Wahrnehmung beim Sehen, Hören und Sprachverstehen setzten einen Tsunami der KI-Forschung und -Entwicklung in Hochschulen und Technologieunternehmen in Gang. Das Internet lieferte den Grundstock an Daten und GPUs die Rechenleistung für Berechnungen.

Im Oktober 2015 war das ursprüngliche AlphaGo das erste Computersystem, das einen menschlichen Profi-Go-Spieler ohne Handicap schlug. Im Jahr 2017 schlug der Nachfolger AlphaGo Master den weltbesten Spieler in einem Drei-Spiele-Match. AlphaGo nutzt Deep Learning und ist eine weitere ikonische Demonstration von KI. 2017 stellte DeepMind AlphaZero vor, ein KI-System, das sich selbst beigebracht hat, Schach und Go zu spielen und zu meistern und anschließend Weltmeister zu schlagen. Das Bemerkenswerte daran ist, dass das System entwickelt wurde, ohne dass es über Fachwissen verfügte - nur über die Regeln des Spiels. Es ist auch faszinierend, ein Computerspiel mit einem eigenen, dynamischen und kreativen Spielstil zu sehen.⁵ AlphaZero zeigt die Macht der KI.

Es ist gut möglich (und sogar wahrscheinlich), dass viele Unternehmen mit ihren KI-Plänen und -Implementierungen scheitern werden. Die Grenzen von Deep Learning und KI sind Forschern, Bloggern und einer Reihe von Experten wohl bekannt.⁶ Deep Learning kann zum Beispiel nicht selbst erklären, wie es seine Antworten abgeleitet hat. Deep Learning hat keine Kausalität und ermöglicht im Gegensatz zum Menschen kein menschliches Denken oder das, was viele als gesunden Menschenverstand bezeichnen. Deep Learning braucht Tausende von Bildern, um zu lernen und bestimmte Objekte zu identifizieren, wie z. B. die Bestimmung einer Katzenart oder die Identifizierung deiner Mutter anhand eines Fotos. Der Mensch braucht nur eine Handvoll Beispiele und kann das in Sekundenschnelle tun. Menschen wissen, dass ein Bild von einem Gesicht, bei dem die Nase unterhalb des Mundes liegt, nicht korrekt ist. Alles, was dem menschlichen Denken nahe kommt, ist für die KI derzeit nicht machbar; das wird der vierte Übergang sein.

Die KI hat erstaunliche Fortschritte gemacht, aber es ist noch ein weiter Weg, bis sie die Intelligenz des Menschen erreicht. Die Forschung treibt die KI weiter voran. KI strebt danach, sich auf dem Kontinuum der künstlichen Intelligenz so weit und so schnell wie möglich nach rechts zu bewegen, wie in Abbildung 1-6 dargestellt.

Im Gegensatz zu Filmen wie Ex Machina oder 2001: Odyssee im Weltraum, in denen die KI die menschliche Intelligenz übertrifft (starke KI), sind wir noch nicht so weit -wir haben heute eine schwache KI, oder das, was manche als enge KI bezeichnen. Sie ist begrenzt, weil wir zum Beispiel maschinelle Lernmodelle trainieren, um Lungenentzündungen zu erkennen, aber dasselbe Modell kann keine Krebsgeschwülste auf einem Röntgenbild erkennen. Das heißt, dass ein System, das für eine bestimmte Aufgabe trainiert wurde, bei einer verwandten, aber etwas anderen Aufgabe schnell versagt. Heute, wo wir KI weitgehend auf genau definierte Probleme ausrichten, werden Menschen gebraucht, um sicherzustellen, dass die KI richtig arbeitet. Der Mensch muss die KI-Modelle trainieren und den Lebenszyklus der KI-Entwicklung von der Wiege bis zur Bahre verwalten.

Neue Innovationen in der KI werden uns auf dem Kontinuum weiter nach rechts bringen, wo wir vielleicht die Kausalität im Blick haben werden. Wir werden zum Beispiel verstehen, ob ein Aspirin, das vor einem langen Flug eingenommen wird, tatsächlich blutverdünnend wirkt und das Risiko von Blutgerinnseln, die durch die Unbeweglichkeit während der Reise entstehen, verringert. Dies steht im Gegensatz zu der derzeitigen Praxis, Fluggästen die Einnahme von Aspirin als Vorsichtsmaßnahme zu empfehlen.

Deep Learning wird höchstwahrscheinlich durch neue Forschung und Innovationen überarbeitet werden. Die Hardware wird sich verbessern. Es wird einen weiteren KI-Übergang geben, wie er in Abbildung 1-5 dargestellt ist, und er wird die Bewegung der KI auf dem in Abbildung 1-6 dargestellten Kontinuum weiter nach rechts beschleunigen. Heute müssen KI und Menschen Hand in Hand arbeiten, um Probleme zu lösen. KI kann Fehler machen, und wir brauchen Kliniker mit Intuition und Erfahrung in der Gesundheitsversorgung, die durch KI ergänzt werden.

AI-A Allzwecktechnik

KI ist nicht nur ein Fachgebiet der Informatik, sondern erweist sich auch als General Purpose Technology (GPT).⁷ GPTs werden als Wachstumsmotoren bezeichnet - sie treiben den technischen Fortschritt und das Wirtschaftswachstum voran. Das heißt, eine Handvoll Technologien hat über längere Zeiträume hinweg einen dramatischen Einfluss auf die Industrie. GPTs, wie z. B. die Dampfmaschine, der Elektromotor, Halbleiter, Computer und jetzt KI, haben die folgenden Eigenschaften:

Sie sind allgegenwärtig - die Technologie ist allgegenwärtig, manchmal unsichtbar und kann in einer Vielzahl von Branchen und komplementären Innovationen eingesetzt werden.
Sie bringen Innovationen hervor - je besser und allgegenwärtiger ein ÖPNV wird und sich in der gesamten Wirtschaft verbreitet, desto mehr Produktivitätsgewinne werden erzielt.
Sie sind disruptiv - sie können die Art und Weise, wie Arbeit erledigt wird, in den meisten, wenn nicht allen Branchen verändern.
Sie haben eine allgemeine Zweckmäßigkeit - sie erfüllen allgemeine Funktionen und können für eine Vielzahl von Produkten und Dienstleistungen verwendet werden.

Die Schwierigkeit, eine einheitliche Definition von künstlicher Intelligenz zu finden, liegt in unseren Meinungsverschiedenheiten darüber, was menschliche Intelligenz ausmacht. Die Entwicklung von Computersystemen, die in der Lage sind, Tätigkeiten auszuführen, die normalerweise menschliche Intelligenz erfordern, ist ebenfalls eine gute Definition von KI, aber das ist eine sehr niedrige Messlatte, denn seit Jahrhunderten erledigen Maschinen Aufgaben, die mit menschlicher Intelligenz verbunden sind. Computer können heute Aufgaben erledigen, die promovierte Menschen nicht können, und gleichzeitig können sie keine Aufgaben erledigen, die ein einjähriger Mensch erledigen kann.

Im Gegensatz zu den oft gesehenen ruchlosen Maschinen oder Robotern in Filmen wie Blade Runner, The Terminator und I, Robot gibt es heute keine scheinbar empfindungsfähigen, hoch intelligenten Computer. Das wäre eine starke und allgemeine KI. Die Computer, die in dystopischen Filmen wie The Matrix und Transcendence nach der technologischen Singularität streben (in der die KI die menschliche Intelligenz übertrifft), gibt es nicht.

Weltbekannte Wissenschaftler und "KI-Experten" sind sich in öffentlichen Foren oft einig, dass es möglich ist, dass Maschinen eine Superintelligenz entwickeln. Die Frage, die sich stellt, ist jedoch, ob dies theoretisch möglich ist. Die Entwicklung der KI legt nahe, dass die Möglichkeit besteht. Das führt uns zum Moravec-Paradoxon, einer Beobachtung von KI-Forschern, dass es leicht ist, Computer dazu zu bringen, fortgeschrittene Intelligenz beim Schachspielen oder beim Bestehen von Intelligenztests an den Tag zu legen, es aber schwierig für Maschinen ist, die Fähigkeiten eines Kleinkindes zu zeigen, wenn es um Wahrnehmung und Mobilität geht. Intelligenz und Lernen sind kompliziert. Obwohl wir die Dinge gerne in Kategorien wie "dumm" oder "intelligent" einteilen, bewegt sich die KI auf einem Kontinuum, wie in Abbildung 1-6 dargestellt; aber die KI ist heute nicht "superintelligent", und es gibt auch keine Zeitleiste, die uns hilft zu verstehen, wann der Tag der superintelligenten Computer kommen wird - es könnte in fünf oder in hundert Jahren sein. Die Menge an Rechenressourcen, die benötigt wird, um die niedrigen Fähigkeiten des Menschen zu demonstrieren, spiegelt die Herausforderungen wider, die bei der Entwicklung superintelligenter Maschinen zu bewältigen sind.

KI wird als Kurzform verwendet, um eine Vielzahl von Konzepten, Architekturen, Technologien und Bestrebungen zu beschreiben, aber es gibt keine einzelne KI-Technologie. KI ist kein System oder Produkt, das in ein solches eingebettet ist oder von einem solchen genutzt wird. Wir verwenden den Begriff KI ganz allgemein, denn es wurde noch kein Computer, keine Maschine oder KI mit menschenähnlichen Zielen und Absichten entwickelt. Wir wissen auch nicht, wie man einen solchen Computer oder eine solche Maschine bauen kann, da dies wiederum eine starke oder allgemeine KI wäre. Wenn wir von menschlicher Intelligenz, Superintelligenz oder Empfindungsvermögen in Maschinen sprechen, ist dies ein zukünftiger Zustand, der diskutiert wird. Es gibt keine wundersame KI-Lösung; wir können keinen KI-Zauberstab schwingen, der das Gesundheitswesen verbessert oder die Menschen gesünder macht.

Andrej Karpathy, ein Informatikforscher und derzeitiger Direktor der KI-Abteilung bei Tesla, argumentiert überzeugend, dass KI die Art und Weise verändert, wie wir Software entwickeln, wie wir Anwendungen entwickeln. Er argumentiert, dass die Art und Weise, wie wir Software entwickeln bzw. Anweisungen schreiben, die dem Computer sagen, was er tun soll, langsam und fehleranfällig ist. Wir verbringen viel Zeit mit der Fehlersuche - und was noch schlimmer ist: Der Code wird mit der Zeit immer brüchiger, weil immer mehr Leute den Code pflegen, was oft zu einem großen Spaghetti-Code führt, der schwer zu ändern ist. Die Anwendung bindet das Unternehmen an eine bestimmte Arbeitsweise.

Das Gesundheitswesen ist durchsetzt mit veralteter Software und/oder komplexen Anwendungen, die so groß sind, dass sie selbst zum Innovationshindernis werden. Mithilfe von maschinellem Lernen können wir nach Beispielen programmieren, d. h. wir können viele Beispiele dafür sammeln, was die Anwendung oder Software tun oder nicht tun soll, sie kennzeichnen und ein Modell so trainieren, dass es effektiv lernt, die Entwicklung der Anwendung oder Software selbst zu automatisieren. Obwohl es bereits erste Werkzeuge zur Automatisierung von Aspekten der Softwareentwicklung gibt, werden noch mehr Innovationen und Werkzeuge benötigt. Karpathy beschreibt diese Vision als Software 2.0. Außerdem haben nur wenige, wenn überhaupt, Unternehmen das Talent oder die Werkzeuge, um diese Vision umzusetzen. Dennoch können wir für viele der heutigen Probleme maschinelles Lernen anstelle von Handarbeit einsetzen. So können wir Systeme mit maschinellem Lernen zukunftssicher machen, wenn sie mit neuen Daten lernen, und vermeiden, dass Programmierer/innen mehr Code schreiben.

Das Verstehen und Erforschen von KI-Mythen im Gesundheitswesen und in der Technologie erhellt unser Verständnis und unsere Definition von KI. Dies ist der Schlüssel zum Verständnis der Konzepte, die in späteren Kapiteln vorgestellt werden. Als Nächstes werden wir uns mit einigen der wichtigsten Mythen im KI-Gesundheitswesen befassen .

Mythen über KI im Gesundheitswesen

Es gibt so viel Aufregung um KI im Gesundheitswesen, aber was genau soll KI im Gesundheitswesen lösen? Die Menschen erhoffen sich von KI, dass sie künftige Krankheiten vorhersagen, Krankheiten verhindern, die Behandlung von Krankheiten verbessern, Hindernisse beim Zugang zur Gesundheitsversorgung überwinden, die Belastung durch überarbeitete und ausgebrannte Kliniker/innen lösen und die Gesundheit der Menschen insgesamt verbessern und gleichzeitig die Kosten für die Gesundheitsversorgung senken. Auch wenn einige dieser Ziele erreicht werden können, ist KI kein Allheilmittel für alle Probleme im Gesundheits- und Pflegebereich. Wenn KI nicht mit Bedacht, menschlicher Aufsicht und Weitsicht eingesetzt wird, können Fehler oder falsche Empfehlungen, die auf fehlerhaften oder unzureichenden Daten und Annahmen beruhen, das Vertrauen zerstören, das mit KI im Gesundheitswesen erreicht werden soll. KI im Gesundheitswesen muss für den richtigen Zweck eingesetzt werden, wobei die Entwickler die potenziellen Risiken im Blick haben müssen.

Roy Amara, ein früherer Leiter des Institute for the Future, prägte das Amara'sche Gesetz, das besagt: "Wir neigen dazu, die Auswirkungen einer Technologie kurzfristig zu überschätzen und langfristig zu unterschätzen." Einer der größten Mythen in Bezug auf KI ist, dass KI Ärzte und andere Gesundheitsdienstleister ersetzen wird. KI stützt sich auf die Wissensbasis, die von ausgebildeten und erfahrenen Ärzten bereitgestellt wird. KI kann den Aspekt der "Fürsorge" und die dokumentierte therapeutische Wirkung menschlicher Interaktion nicht ersetzen. KI ist nicht in der Lage, die beste Lösung zu finden, wenn eine ganzheitliche Betrachtung eines Patienten einen Ansatz empfehlen würde, der auf menschlicher Kreativität, Urteilsvermögen und Einsicht beruht. Nehmen wir zum Beispiel einen ansonsten gesunden 90-jährigen Patienten, der an einem gut behandelbaren Krebs erkrankt. Die Logik und die aktuelle Medizin würden eine aggressive Behandlung zur Vernichtung des Krebses unterstützen. Der menschliche Aspekt kommt ins Spiel, wenn derselbe Patient seinem Arzt mitteilt, dass er verwitwet und allein ist und, obwohl er nicht depressiv ist, das Gefühl hat, ein erfülltes Leben gelebt zu haben und deshalb eine Behandlung ablehnt. AI und die meisten Ärzte würden für eine Behandlung plädieren. Die ganzheitliche Prüfung der Wünsche des Patienten und seine Autonomie bei seinen Gesundheitsentscheidungen haben hier Vorrang und würden von einer autonomen KI-Agentur, die ohne menschliche Aufsicht arbeitet, übersehen werden. Da dieser Patient sich für einen Weg entscheiden würde, der Untätigkeit beinhaltet, und die Merkmale dessen, was in die Entscheidung des Patienten für ein erfülltes Leben einfließt, nicht in bestehende Modelle einfließen, ist es unwahrscheinlich, dass eine KI in der Lage wäre, diese ungewöhnliche, aber gültige Patientenentscheidung vorherzusagen.

KI kann kontraintuitive Strategien für das Gesundheitsmanagement anwenden, aber die Schritte von den Rohdaten zur Entscheidung sind komplex und erfordern menschliche Wahrnehmung und Erkenntnisse. Der Prozess ist eine Progression, die mit klinischen Daten aus unzähligen Quellen beginnt, die zu relevanten Informationen aufgebaut und weiterentwickelt werden, die dann genutzt und auf Populationen und/oder Einzelpersonen angewendet werden. Die Umwandlung von Rohdaten zu Erkenntnissen in Intelligenz ist ein Prozess, der von Klinikern geleitet wird, die mit Datenwissenschaftlern zusammenarbeiten und KI einsetzen. Die klinische Interpretation von Daten hängt von Menschen und ihrem Verständnis von Krankheitsprozessen und deren Auswirkungen auf die Zeitachse des Krankheitsverlaufs ab, die dieses frühe Wissen prägen. Algorithmen für das Krankheitsmanagement, die Identifizierung von Risikofaktoren, die die Wahrscheinlichkeit der Krankheitsentwicklung vorhersagen - all das basiert auf dem menschlichen Verständnis und der Interpretation des Krankheitsprozesses und des menschlichen Zustands. Der Einsatz von KI und die Tätigkeit von Ärztinnen und Ärzten sind eng miteinander verwoben, und ihr gemeinsames Potenzial zur Verbesserung der Gesundheit ist bemerkenswert. Da es so viele potenzielle Einsatzmöglichkeiten für KI im Gesundheitswesen gibt, können wir sie in einige der zahlreichen Lücken einteilen, die wir bereits identifiziert haben:

Ungleicher Zugang zur Gesundheitsversorgung: Mithilfe von KI können soziale Gesundheitsfaktoren ermittelt werden, die vorhersagen können, welche Bevölkerungsgruppen entweder "gefährdet" sind oder nicht ausreichend versorgt werden, und es können taktische Pläne entwickelt werden, um diese Lücken in der medizinischen Versorgung zu schließen.
Unzureichende Gesundheitsdienste auf Abruf: KI erfüllt bereits einige dieser Anforderungen mit Anwendungen wie Lark Health, das mithilfe von intelligenten Geräten und KI mit tiefgreifendem maschinellem Lernen gesunde, gefährdete und stabile Patienten mit chronischen Krankheiten außerhalb des Gesundheitssystems verwaltet.
Hohe Kosten und mangelnde Preistransparenz: Mithilfe von KI lässt sich vorhersagen, bei welchen Patienten oder Bevölkerungsgruppen das Risiko besteht, dass sie "hohe Kosten" verursachen, und durch weitere Analysen innerhalb dieser Bevölkerungsgruppen können Faktoren ermittelt werden, mit denen sich dieses Ergebnis verhindern lässt.
Erhebliche Abfälle: Die Einbindung von KI in die Systeme der Kostenträger im Gesundheitswesen ist heute weit verbreitet. Patienten und Leistungserbringer werden von Verwaltungsaufgaben und unnötigem Papierkram entlastet, was das Nutzererlebnis deutlich verbessert.
Fragmentierte, isolierte Systeme von Kostenträgern und Anbietern: KI hat hier potenzielle Einsatzmöglichkeiten, z. B. bei der automatischen Kodierung von Arztbesuchen und der Möglichkeit, die Kosten für Tests/Untersuchungen/Besuche automatisch vom Gesundheitssparkonto abzuziehen.
Hohe Reibungsverluste für Unternehmen und schlechte Erfahrungen für Verbraucher: Die KI ermöglicht bereits die rechtzeitige Auszahlung von Ansprüchen und die Mitteilung von Gesundheitsleistungen für eine Person mit weniger Fehlern und kürzerer Bearbeitungszeit im Vergleich zu Systemen, die von menschlichen Ressourcen dominiert werden.
Aufzeichnungen seit den 1960er Jahren eingefroren: Elektronische Gesundheitsakten und die Menge an Patientendaten, die KI-Anwendungen zur Verfügung stehen, die diese Daten verarbeiten und Erkenntnisse aus der Bevölkerungsanalyse ziehen können, wachsen und entwickeln sich ständig weiter.
Langsame Übernahme von technologischen Fortschritten: KI kann uns hier nicht helfen. Auch hier ist eine umsichtige Anwendung von KI auf Lücken im Gesundheitswesen erforderlich. Der Einsatz von KI im Gesundheitswesen sollte dazu dienen, die Fähigkeiten der Anbieter zu erweitern, den Zugang der Patienten zur Gesundheitsversorgung und deren Nutzung zu erleichtern und so weiter. Was KI nicht beantworten kann, ist die Frage, wie wir Menschen KI-gestützte Lösungen annehmen werden. Aufgrund der Skepsis von Patienten und Leistungserbringern und des Widerstands gegen Veränderungen wird KI im Gesundheitswesen größtenteils auf unauffällige Weise eingesetzt. Mit der Zeit und angesichts nationaler und internationaler Notfälle wie der COVID-19-Pandemie sind die Menschen gezwungen, technologische Verbesserungen im Gesundheitswesen zu akzeptieren und sogar anzunehmen. Um diesen Trend fortzusetzen, müssen wir auf dem Erfolg und der Zufriedenheit der Nutzer mit dem Produkt und dem Prozess aufbauen.
Burnout von Gesundheitsdienstleistern, die aufgrund der zu bewältigenden Datenmenge nicht in der Lage sind, sich über die neuesten medizinischen Fortschritte auf dem Laufenden zu halten: Die KI kann die Hunderte von neuen Zeitschriftenartikeln über wissenschaftliche und pharmazeutische Fortschritte verarbeiten, die täglich veröffentlicht werden. Sie kann auch relevante Erkenntnisse zu verschiedenen Themen zusammenstellen, die von den Leistungserbringern angefordert werden, damit die Patienten die fortschrittlichsten medizinischen Behandlungen und Diagnosen erhalten, die für ihren Zustand relevant sind. Mit Hilfe von KI kann in Echtzeit ermittelt werden, ob eine Vorabgenehmigung für einen Test/ein Verfahren oder ein Medikament für einen Patienten erteilt werden kann. All diese Fortschritte führen dazu, dass die Nutzerinnen und Nutzer mit ihrer Gesundheitsversorgung zufriedener sind, dass es weniger Verzögerungen bei der Versorgung gibt, dass Zeit- und Ressourcenverschwendung vermieden wird, dass sich die Gesundheitsergebnisse der Patientinnen und Patienten verbessern und dass die Ärztinnen und Ärzte mehr Zeit für ihre Patientinnen und Patienten haben, statt sich mit ihren Tablets zu beschäftigen.

Dies sind nur einige wenige Beispiele für den Einsatz von KI im Gesundheitswesen.

Weitere Fähigkeiten, die sich in der Entwicklung befinden, und zukünftige Anwendungsfälle sowie zusätzliche Anwendungen von KI, die helfen, die oben genannten Probleme im Gesundheitswesen aus verschiedenen Blickwinkeln zu lösen, werden in diesem Buch behandelt.

Nehmen wir ein konkretes Beispiel. Die Gesundheitsbranche ist bestrebt, kostenintensive Situationen zu bekämpfen, die sich auf die Gesundheit der Patienten auswirken. Ein Beispiel ist die Sterblichkeit und Morbidität von Müttern und Föten und die damit verbundenen astronomischen Kosten. Ein erster Schritt besteht darin, so viele Daten wie möglich zu sammeln, um maschinelles Lernen zu ermöglichen. Die Trainingsdaten müssen beschriftet, Modelle entwickelt und auf ihre Genauigkeit getestet werden, und die Daten müssen ausgewertet werden, wenn das Ergebnis unbekannt ist, um herauszufinden, bei welchen Müttern und Babys in einer Bevölkerungsgruppe das Risiko besteht, dass sie während oder nach der Schwangerschaft Komplikationen entwickeln und auf die neonatale Intensivstation (NICU) müssen. Dies erfordert eine KI-Analyse aller Patientenvariablen, um die Zielpopulation zu isolieren. Es ist auch wichtig zu verstehen, ob andere Bedingungen eine Rolle spielen, wie z. B. Schwangerschaftsbluthochdruck (und vielleicht seine schwereren Ausprägungen), der weit verbreitet ist und mit Neugeborenen auf der Intensivstation und Schwangerschaftskomplikationen in Verbindung gebracht wird.

Die routinemäßige Überwachung von Risikomüttern in einem frühen Stadium ermöglicht den Ärzten eine frühzeitige Diagnose und Behandlung der Schwangerschaftshypertonie und ihrer Erscheinungsformen, um mütterliche und fetale Komplikationen und Todesfälle mit den damit verbundenen Kosten für die Mutter und die Neugeborenenstation zu verhindern. Mithilfe der KI lassen sich die Mütter mit dem höchsten Risiko und den größten potenziellen Auswirkungen einer Intervention identifizieren. KI kann Kliniker/innen bei der Erkennung von Schwangerschaftsbluthochdruck unterstützen und dann im Krankheitsmanagement eingesetzt werden, wobei zielgerichtete Therapien von menschlichen Anbietern identifiziert und zur Ausbildung von KI-Tools und -Produkten verwendet werden können. Wir können KI für die Analyse dieser Mütter und Säuglinge einsetzen, um herauszufinden, ob es einen besseren Weg gibt, diese spezielle Bevölkerungsgruppe zu identifizieren, zu diagnostizieren und zu behandeln. KI hat inhärente Vorteile und breite Anwendungsmöglichkeiten, aber es ist die Zusammenarbeit von KI mit der menschlichen Schnittstelle, die KI-Tools so wirkungsvoll werden lässt. KI wird Gesundheitsdienstleister nicht ersetzen, aber sie ist ein mächtiges Werkzeug, das die Arbeit von Ärzten bei der Erkennung und Behandlung von Krankheiten unterstützt. Sehen wir uns an, wie KI und Gesundheitsdienstleister zusammenarbeiten können, und räumen wir mit dem Mythos auf, dass KI alles alleine kann.

Mythos: KI wird Krankheiten heilen

KI ist kein Ersatz für ein medizinisches Heilmittel, das eines Tages Krankheiten (z. B. koronare Herzkrankheit und Krebs) ausrotten könnte. Allerdings könnten Fortschritte in der KI, die massive Anhäufung von Daten (d. h. Big Data) und die gemeinsame Nutzung von Daten im Gesundheitswesen zur Ausrottung von Krankheiten führen. Manche Menschen glauben, dass wir, wenn wir mithilfe von KI vorhersagen können, wer für eine bestimmte Krankheit gefährdet ist, eingreifen und Verhaltensweisen ändern oder eine Behandlung einleiten können, die verhindert, dass die Krankheit überhaupt ausbricht. Natürlich ist es nicht dasselbe, Menschen dabei zu helfen, eine Krankheit zu vermeiden, als die Krankheit zu heilen. Die Definition was wir unter einer Heilung verstehen, kann verwirrend sein, und das wird nie deutlicher als bei Krankheiten wie dem Humanen Immundefizienz-Virus (HIV). Magic Johnson, der NBA Hall of Famer, verkündete, er sei von HIV geheilt, weil die Ärzte das Virus in seinem Körper nach der laufenden HIV-Behandlung nicht mehr nachweisen konnten. Ohne die antiretroviralen Medikamente hätte sich HIV vermehrt und wäre erneut in Johnsons Körper gefunden worden. War er jemals wirklich geheilt? Für bestimmte Krankheiten gibt es keine eindeutige Heilungsperspektive. Es ist jedoch besser, einer Krankheit vorzubeugen, als zu versuchen, sie zu heilen.

Heutzutage ist es üblich, dass wir daran arbeiten, Krankheiten vorzubeugen, oft mit Hilfe von maschinellem Lernen. Unternehmen des Gesundheitswesens nehmen routinemäßig Daten aus elektronischen Gesundheitsakten (EHR), Krankenversicherungsansprüchen, Verschreibungen, biometrischen Daten und zahlreichen anderen Datenquellen auf, um Modelle zur Identifizierung von "Risikopatienten" zu erstellen. Für eine wirksame Prävention müssen die Akteure des Gesundheitswesens künstliche Intelligenz einsetzen, um Entscheidungen zu unterstützen und Empfehlungen zu geben, die auf den Einschätzungen und Erkenntnissen der Ärzte und Ärztinnen basieren, die alle Patienten und Patientinnen versorgen.

Das Ökosystem des Gesundheitswesens besteht aus Verbrauchern, die Gesundheitsleistungen benötigen, aus Ärzten und Leistungserbringern, die Gesundheitsleistungen erbringen, aus der Regierung, die das Gesundheitswesen reguliert, aus Versicherungsgesellschaften und anderen Kostenträgern, die für die Leistungen bezahlen, und aus den verschiedenen Behörden, die die Leistungen verwalten und koordinieren. Im Idealfall sind diese Komponenten des Ökosystems aufeinander abgestimmt und optimieren die Patientenversorgung. Ein einfaches Beispiel ist die medizinische Kodierung, bei der der medizinische Fachjargon nicht immer mit der Kodierungsterminologie übereinstimmt, was dazu führt, dass der tatsächliche Krankheitsverlauf eines einzelnen Patienten nicht erkannt wird. Das derzeitige System hängt stark von der Kodierung von Diagnosen durch Krankenhäuser, Leistungserbringer, medizinische Kodierer und Rechnungssteller ab. Dieser medizinische Kodierungsprozess hat sich mit dem zunehmenden Einsatz von KI verbessert, was die Möglichkeiten zur Prävention von Krankheiten erhöht.

KI kann den Ärzten mehr und bessere Werkzeuge an die Hand geben und ihre diagnostischen Fähigkeiten erweitern, indem sie ein ganzheitliches Bild des einzelnen Patienten mit breiteren Datenströmen und einem technologischen Verständnis des Krankheitsprozesses und der Risikogruppen analysiert. KI hat sich zu einem genaueren Werkzeug für die Identifizierung von Krankheiten auf Bildern entwickelt, und mit dem Aufkommen intelligenter Räume (z. B. Krankenhäuser, Wohnungen, Arbeitsbereiche von Ärzten) wird KI zu einer brauchbaren Quelle für diagnostische Informationen. Wir werden dies in Kapitel 3 genauer untersuchen, in dem die Welt der intelligenten Maschinen und des Ambient Computing und ihre Auswirkungen auf das Gesundheitswesen behandelt werden. Die Menge der Datenströme macht dies für einen Menschen unüberschaubar, aber für intelligente Maschinen, die von KI unterstützt werden, ist es durchaus möglich. Durch die Identifizierung und Stratifizierung von Risikopersonen kann die KI Ärzte und Gesundheitsunternehmen darauf aufmerksam machen, dass sie eingreifen und veränderbare Risikofaktoren angehen müssen, um Krankheiten zu verhindern.

Mit Hilfe von KI-Algorithmen, personalisierter Medizin und prädiktiven Patientenergebnissen können verschiedene Krankheiten untersucht und die bewährten Methoden und Ergebnisse identifiziert werden, was die Wahrscheinlichkeit erhöht, dass eine bestimmte Krankheit geheilt wird. Die KI kann außerdem analysieren, ob und warum eine bestimmte Bevölkerungsgruppe auf bestimmte Behandlungen nicht anspricht und auf eine andere Behandlung nicht. 2014 verklagte der Generalstaatsanwalt von Hawaii die Hersteller eines Medikaments namens Plavix⁸ (das zur Blutverdünnung eingesetzt wird, um Schlaganfälle und Herzinfarkte zu verhindern). In der Klage wurde behauptet, dass Plavix bei einem großen Teil der pazifischen Inselbewohner aufgrund eines Stoffwechseldefizits in dieser Bevölkerungsgruppe nicht wirkt und dass die Hersteller des Medikaments von dieser Anomalie wussten. Obwohl der Hersteller des Medikaments ursprünglich nichts von diesem genetischen Unterschied wusste, da er die Pazifikinsulaner nicht in seine ersten klinischen Studien einbezog, war er sich der Anomalie in Bezug auf die Wirksamkeit später bewusst, als das Medikament bei vielen Patienten eingesetzt wurde. Die KI-Algorithmen wurden nicht eingesetzt, um den Anstieg der schlechten Ergebnisse im Zusammenhang mit der Verwendung von Plavix als vorbeugendes Medikament in dieser Bevölkerungsgruppe zu erkennen. Aber die Anwendung von KI auf einen solchen Anwendungsfall - d.h. die Beobachtung einer Population nach der Freigabe eines Medikaments, um nach Auffälligkeiten in den Daten zu suchen und dann Schlussfolgerungen aus diesen Erkenntnissen zu ziehen - ist ein perfekter Einsatz von KI, der zu alternativen Therapieempfehlungen für Blutverdünner geführt hätte, um kardiovaskuläre Komplikationen und das Wiederauftreten von Krankheiten viel schneller zu verhindern. Die Alternative war ein langwieriger Prozess, der sich über mehrere Jahre hinzog, in denen ein Befund von Klinikern festgestellt und dann gemeldet wurde, und schließlich wurde die Feststellung getroffen, dass Plavix bei Pazifikinsulanern nicht wirksam ist.

Die Anwendung von KI auf Krebserkrankungen stößt auf großes Interesse und gibt Anlass zu der Annahme, dass wir die jährliche Zahl der Krebstoten erheblich reduzieren können. Ein großer Teil der Weltbevölkerung erkrankt an Krebs - allein 2018 starben weltweit etwa 10 Millionen Menschen an Krebs. Die Daten dieser Menschen vor dem Ausbruch der Krankheit, nach der Diagnose und während der Behandlung haben zusammen mit dem Einsatz von KI das Potenzial, die onkologische Versorgung zu verbessern und mehr Heilungen durch die Behandlung zu erreichen. Die Einbindung von KI-Technologie in die Krebsbehandlung beschleunigt die Diagnostik und führt zu einer verbesserten klinischen Entscheidungsfindung, was wiederum die Ergebnisse für Krebspatienten verbessert. KI kann auch bei der Behandlung fortgeschrittener Krebsstadien nützlich sein, da sie den Bedarf an Pflege am Lebensende vorhersagen kann, um die Lebensqualität der Patienten zu verbessern.

Ein Bereich, in dem KI das Potenzial hat, erhebliche Auswirkungen zu haben, ist die Erkennung von Krebs in radiologischen Untersuchungen. Die Keck School of Medicine der University of Southern California hat 2019 eine Studie veröffentlicht, die eine verbesserte Krebserkennung durch KI zeigt.⁹ Konkret wurde "eine verblindete retrospektive Studie mit einem Gremium von sieben Radiologen durchgeführt, die einen mit Krebs angereicherten Datensatz von 122 Patienten verwendeten, der 90 falsch-negative Mammogramme enthielt." Die Ergebnisse zeigten, dass alle Radiologen eine signifikante Verbesserung ihrer Krebserkennungsrate verzeichnen konnten. Die durchschnittliche Krebsentdeckungsrate der Radiologen stieg durch den Einsatz der KI von 51 % auf 62 %, während die Zahl der falsch-positiven Befunde (d. h. die Feststellung von Krebs, obwohl kein Krebs vorhanden ist) im Wesentlichen gleich blieb.

Die Früherkennung von Krankheitszuständen hat nicht nur bei Radiologen, sondern auch bei Dermatologen einen enormen positiven Einfluss auf die Behandlungs- und Heilungsergebnisse bei Krebs. Informatiker/innen in Stanford haben einen KI-Algorithmus zur Erkennung von Hautkrebs entwickelt, der Deep Learning zur Erkennung von malignen Melanomen (einer Form von Hautkrebs) einsetzt, und festgestellt, dass die KI den Krebs genauso genau erkennt wie Dermatolog/innen. China hat KI für die Analyse von Hirntumoren eingesetzt. Zuvor hatten Neurochirurgen die Tumorsegmentierung (die bei der Diagnose von Hirntumoren verwendet wird) manuell durchgeführt. Mit KI wurden die Ergebnisse genauer und zuverlässiger und sorgten für mehr Effizienz. Überall dort, wo eine frühzeitige und genaue Erkennung zu einer Heilung führen kann, hat KI einen bewährten Platz in der Diagnose von Krebserkrankungen.

Die KI entwickelt sich in ihrer Anwendung und Rolle bei der Krebserkennung ständig weiter. Derzeit werden genetische Mutationen durch DNA-Analysen bestimmt. KI wird in Unternehmen wie Foundation Medicine (Roche) und Tempus eingesetzt, um Behandlungen für bestimmte Tumor genome zu empfehlen. Außerdem wird KI in der Radiogenomik eingesetzt, bei der die Analyse von Röntgenbildern zur Vorhersage der zugrunde liegenden genetischen Merkmale verwendet wird. Das heißt, KI wird eingesetzt, um Magnetresonanztomographie (MRT) zu analysieren und zu interpretieren, um festzustellen, ob eine Mutation vorliegt, die Krebs bedeutet. In einer chinesischen Studie sagte die KI-Analyse von MRTs das Vorhandensein eines niedriggradigen Glioms (Hirntumor) bei Patienten mit einer Genauigkeit von 83-95 % voraus. In den letzten zehn Jahren wurde die KI bei der Entwicklung von Krebsmedikamenten eingesetzt. Eine Studie zeigte, dass die KI in der Lage war, die Wahrscheinlichkeit des Scheiterns einer klinischen Studie vorherzusagen, in der mehr als 200 Medikamentenproben getestet wurden. In einer anderen Studie wurde KI zur Vorhersage der Reaktion von Krebszellen auf eine Behandlung eingesetzt.

Die Erkennung und Diagnose von Krebs im Frühstadium in Verbindung mit der richtigen Behandlung erhöht die Chance, Patienten von Krebs zu heilen. KI kann einen wichtigen Beitrag zur Diagnose von Patienten leisten, indem sie Signale oder Symptome erkennt, die von Menschen übersehen werden. Das Sammeln von Daten aus großen Bevölkerungsgruppen ermöglicht es, die effektivsten Behandlungspläne zu verstehen und zu erkennen. Dies führt zu einer besseren Behandlung für einzelne Patienten, die auf den erwiesenermaßen effektivsten Behandlungsplänen für andere Patienten mit ähnlichen Krebsarten basiert. Hier könnte KI - insbesondere Deep-Learning-Algorithmen, die große Datensätze mit den Daten von Millionen von Krebspatienten auf der ganzen Welt nutzen - eine wichtige Rolle spielen. Leider gibt es noch keinen Zugang zu solchen riesigen Datensätzen und deren Anhäufung. Die Länder müssten sich darauf einigen, Daten auszutauschen, während die Patienten innerhalb der Länder allgemeinen Zugang zu ihren privaten Daten gewähren müssten; außerdem müssten technologische Systeme entwickelt werden, um all diese unterschiedlichen Daten mit verschiedenen Maßstäben und Normen zusammenzuführen. All das führt dazu, dass die weltweite Zusammenführung von Gesundheitsdaten eine Sache der Zukunft ist. Die technischen Möglichkeiten sind vorhanden, aber die Ethik solcher Datensätze und ihre Verwendung könnten ihre Erstellung verhindern. Wenn jedoch genügend große Datenquellen für die Analyse zur Verfügung stehen, kann die KI den Ärzten evidenzbasierte Empfehlungen für die Behandlungspläne mit den größten Chancen auf positive Ergebnisse geben.

Menschliche Fehler, die zu einer Verzögerung der Diagnose oder einer Fehldiagnose führen, können für Krebspatienten über Leben und Tod entscheiden. KI hilft bei der Früherkennung und Diagnose, indem sie die aktuellen Diagnoseinstrumente für Kliniker/innen ergänzt. Ein wichtiger Teil der Erkennung von Lungenkrebs ist die Feststellung von kleinen Läsionen in der Lunge durch Computertomographie (CT) Scans. Dabei kann es zu menschlichen Fehlern kommen, und genau hier kommt die künstliche Intelligenz ins Spiel. Kliniker/innen, die KI einsetzen, könnten die Wahrscheinlichkeit der Früherkennung und Diagnose erhöhen. Angesichts der vielen Daten, die im Zusammenhang mit Krebs und seiner Behandlung zur Verfügung stehen, hat KI das Potenzial, diese Datenbanken zu strukturieren und relevante Informationen für die Entscheidungsfindung und Behandlung von Patienten in naher Zukunft zu gewinnen.

Wenn wir den Patienten Werkzeuge an die Hand geben, die ihnen helfen, hilft das auch ihren Ärzten; wir werden das in Kapitel 3 näher erläutern. Tools, die große Mengen an Patientendaten schnell analysieren, um Signale zu liefern, die sonst vielleicht unentdeckt bleiben, sollten im Gesundheitswesen eine immer größere Rolle spielen, ebenso wie maschinelle Lernalgorithmen, die kontinuierlich etwas über einen Patienten lernen können. In Kapitel 3 erforschen wir die Synergie zwischen zunehmend instrumentierten Patienten, Ärzten und der klinischen Versorgung. Die Verlagerung von der Verwendung von Computern hin zu Geräten, die Patienten zur Früherkennung von Krankheiten tragen, ist in vollem Gange. Trotz der vielen Nachrichten, die fast täglich über neue Algorithmen für maschinelles Lernen, neue Geräte oder KI-Produkte zur Verbesserung des Gesundheitswesens berichten, wird KI allein die Gesundheitsprobleme der Gesellschaft nicht lösen. Es gibt viele Herausforderungen, die gelöst werden müssen, damit unser Gesundheitssystem besser funktioniert, und KI wird dabei helfen, aber lasst uns mit dem nächsten Mythos aufräumen, dass KI allein die Probleme im Gesundheitswesen löst.

Mythos: KI wird die Ärzte ersetzen

KI wird Ärzte weder jetzt noch in naher Zukunft ersetzen, auch wenn viele Diskussionen darauf hindeuten. Im Jahr 2012 schrieb der Unternehmer und Mitbegründer von Sun Microsystems Vinod Khosla einen Artikel mit dem provokanten Titel "Brauchen wir Ärzte oder Algorithmen?", in dem er behauptet, dass Computer 80% der ärztlichen Arbeit ersetzen werden. Vinod sieht die Zukunft des Gesundheitswesens in den Händen von Unternehmern und nicht von Medizinern.

Wir können KI als Arzt-Ersatz oder als Arzt-Ergänzung betrachten. KI kann einen Doppel-Check durchführen und Muster bei Millionen von Patienten erkennen, die ein Arzt unmöglich sehen kann. Ein einzelner Arzt wäre nicht in der Lage, eine Million Patienten in seinem Leben zu sehen, aber KI kann das. Die diagnostische Arbeit eines Arztes oder einer Ärztin konzentriert sich stark auf die Mustererkennung. Es macht also Sinn, die Diagnose durch KI zu verbessern.

Die wichtigsten Argumente dafür, dass KI Ärzte ersetzt, sind folgende:

KI kann jeden Tag, jedes Jahr, jedes Jahrzehnt genauer werden, und zwar in einem Tempo und Umfang, wie es für menschliche Ärzte nicht möglich ist.
KI wird in der Lage sein, Möglichkeiten und Ergebnisse mit Vertrauenswerten zu erklären.
KI kann die Wissensbasis verbessern und den Einblick eines Arztes (der vielleicht nicht in einem bestimmten Fachgebiet ausgebildet ist) erhöhen.
KI könnte die einzige Möglichkeit sein, Millionen von Menschen, die keinen Zugang zu Gesundheitsdiensten haben oder sich diese nicht leisten können, Zugang zu erstklassiger Gesundheitsversorgung zu verschaffen.

Zu den Argumenten gegen KI als Ersatz für Ärzte gehören folgende:

Menschliche Ärzte sind besser darin, Entscheidungen in Zusammenarbeit mit anderen Menschen zu treffen.
Ärztinnen und Ärzte haben Einfühlungsvermögen, was für die klinische Versorgung entscheidend ist.
Ärztinnen und Ärzte können eine menschliche Verbindung herstellen, die sich direkt darauf auswirkt, wie sich eine Patientin oder ein Patient fühlt, und die es ihr oder ihm erleichtern kann, sich an einen Behandlungsplan zu halten.
Das AMA Journal of Ethics stellt fest, dass "der Wunsch der Patienten nach emotionaler Verbundenheit, Beruhigung und einer heilenden Berührung durch ihre Pfleger gut dokumentiert ist".¹⁰
Ärztinnen und Ärzte können aufgrund ihrer menschlichen Sinne kritische Signale beobachten oder erkennen.
KI kann sich noch nicht so mit Patienten unterhalten wie ein menschlicher Arzt.
Unterbewusste Faktoren, die die Behandlungsfähigkeit eines Arztes beeinflussen können, werden übersehen, wenn sie nicht explizit für AI identifiziert werden.

Die Rolle des Radiologen/der Radiologin wird häufig als eine Rolle betrachtet, die KI potenziell ersetzen könnte. Es lohnt sich, einige Aufgaben eines Radiologen/einer Radiologin zu betrachten und zu erkennen, dass KI diese Aufgaben nicht übernehmen kann, obwohl sie den Radiologen/die Radiologin bei der Ausführung einiger Aufgaben unterstützen könnte:

Betreuung von Assistenzärzten und Medizinstudenten
Teilnahme an Forschungsprojekten
Die Behandlung durchführen
Helfen bei Qualitätsverbesserungen
Verabreichung von Substanzen, um innere Strukturen in bildgebenden Untersuchungen sichtbar zu machen
Entwicklung oder Überwachung von Verfahren für Qualität
Koordination der radiologischen Dienste mit anderen medizinischen Aktivitäten
Beratung von Patienten in der Radiologie, z.B. über riskante oder alternative Behandlungen
Gespräche mit überweisenden Ärzten über Untersuchungsergebnisse oder diagnostische Informationen
Interventionelle Eingriffe durchführen

Radiologen und Radiologeninnen sind die Gruppe, die am ehesten als "ersetzbar" durch KI angesehen werden kann, da sie keinen oder nur minimalen direkten Patientenkontakt haben und nicht alle der hier aufgeführten Aufgaben ausführen. Es gibt viele Aufgaben, die KI besser erledigen kann als ein/e Arzt/Ärztin, aber selten, wenn überhaupt, wird KI ganze Geschäftsprozesse oder -abläufe oder einen ganzen Beruf oder eine ganze Berufsgruppe ersetzen. Das wahrscheinlichste Szenario ist, dass Ärztinnen und Ärzte in absehbarer Zeit dazu übergehen werden, KI zu nutzen, wenn sie wissen, wie sie KI-Tools einsetzen können, um eine effizientere und bessere klinische Versorgung zu gewährleisten. KI bietet heute viele punktuelle Lösungen, und ihre Möglichkeiten, die Diagnostik zu verbessern, sind erheblich. Behandlungspfade und sogar viele Diagnosen erfordern heute eine Entscheidungsfindung, die KI nicht leisten kann.

KI und Mediziner können als Team zusammenarbeiten, denn es steht viel auf dem Spiel. Die KI kann (als Mentor des Arztes) aktives Lernen fördern, indem sie auf Aspekte achtet, die sehr unsicher sind und potenziell zu einem positiven oder negativen Ergebnis beitragen können. Die KI kann (als Mentee des Arztes) Feedback und Erkenntnisse erhalten, um sich in bestimmten Bereichen zu verbessern.

Ein praktisches Problem besteht darin, dass die KI in unserer heutigen Brachflächenwelt leben muss, in der mehrere Hindernisse überwunden werden müssen, damit die KI die Ärzte ersetzen kann. Heute gibt es eine Vielzahl von Systemen, die nicht gut miteinander integriert sind. Zum Beispiel können die Daten eines Patienten, der in einem Krankenhaus, einer Notaufnahme oder einer Arztpraxis behandelt wird, über mehrere verschiedene Systeme mit unterschiedlichem Integrationsgrad verteilt sein. Die Fähigkeit eines Arztes, sich im Gesundheitssystem zurechtzufinden und diese unterschiedlichen Daten zusammenzuführen, ist für die Patientenversorgung entscheidend.

Die Realität ist, dass es keinen Computer, keine Maschine oder KI geben wird, die das Gesundheitswesen löst, genauso wenig wie es eine Lösung für alle Probleme im Bankwesen, im Einzelhandel oder in der Produktion gibt. Der Weg zur Digitalisierung ist je nach klinischem Fachgebiet unterschiedlich und wird wahrscheinlich in jedem Bereich oder Fachgebiet einen Prozess nach dem anderen betreffen. KI-Systeme für die Beurteilung der psychischen Gesundheit, die Diagnose von Krankheitszuständen, die Erkennung von Anomalien und vieles mehr sind da und stehen kurz bevor.

Mythos: KI wird das "Gesundheitsproblem" lösen

Es ist mit Sicherheit ein Mythos, dass KI die unzähligen Probleme im Gesundheitswesen lösen kann. In den USA besteht das derzeitige Gesundheitssystem aus einem großen Ökosystem von Anbietern, Versicherern, Kostenträgern und Behörden, die gut zusammenarbeiten müssen, um den Zugang zur Gesundheitsversorgung zu verbessern, die Kosten zu senken, die Verschwendung zu reduzieren und die Versorgung zu verbessern. Wenn Regierungen über das "Gesundheitsproblem" sprechen, meinen sie in der Regel die exponentiell steigenden Ausgaben für das Gesundheitswesen in unserem Land. Die meisten Länder haben mit einer alternden Bevölkerung zu kämpfen, die immer mehr Ressourcen verbraucht. Die Fähigkeit der KI, Hindernisse beim Zugang zur Gesundheitsversorgung zu überwinden, die Belastung durch überlastete und ausgebrannte Kliniker/innen zu lösen und die Gesundheit der Menschen zu verbessern und gleichzeitig die Kosten für die Gesundheitsversorgung zu senken, ist möglich, aber übertrieben.

Das Komitee für einen verantwortungsvollen Bundeshaushalt berichtet, dass die USA im Jahr 2017 mehr als 3 Billionen US-Dollar für das Gesundheitswesen ausgegeben haben, was ungefähr 9.500 US-Dollar pro Person entspricht. Das Beratungsunternehmen Deloitte stellt fest, dass die USA pro Kopf mehr für die Gesundheitsversorgung ausgeben als jedes andere Land der Welt und gleichzeitig die unangenehme Ehre haben, bei objektiven Maßstäben wie Zugang, Effizienz und Wirksamkeit ganz unten zu stehen. Die Verwaltungskosten belasten das Gesundheitssystem zusätzlich, ebenso wie der Anstieg der Gesundheitskosten durch den medizinischen Fortschritt, der zu einer längeren Lebenserwartung und den damit verbundenen Kosten für eine alternde Bevölkerung führt.

Weder Technologie noch KI können all diese Probleme lösen. Realistischerweise stellt sich also die Frage: Wie kann KI helfen, einige der Probleme im Gesundheitswesen zu lösen? Erstens geht es um den Zugang zur Gesundheitsversorgung, der sich aus drei Teilen zusammensetzt:

Zugang zum Pflegesystem (in der Regel über die Krankenkassen)
Zugang zu einem Ort, an dem medizinische Versorgung angeboten wird (d. h. geografische Verfügbarkeit)
Zugang zu einem Gesundheitsdienstleister (begrenzte Anzahl von Anbietern)

Der Patient Protection and Affordable Care Act (ACA) aus dem Jahr 2010 hat dazu geführt, dass 20 Millionen Erwachsene zusätzlich einen Krankenversicherungsschutz erhalten haben. Dennoch gibt es in den USA immer noch Millionen von Menschen, die nicht versichert sind. Diese Lücke ist deshalb so relevant, weil Menschen ohne Versicherung nachweislich kränker sind und früher sterben, was das Gesundheitssystem belastet und zu höheren staatlichen Kosten beiträgt. Die American Medical Association (AMA) hat den ACA unterstützt und setzt sich für die Ausweitung des Krankenversicherungsschutzes und den Schutz der Menschen vor potenziellem Missbrauch durch die Versicherungswirtschaft ein, was den Zugang zur Gesundheitsversorgung verbessert und damit die Wahrscheinlichkeit erhöht, dass die Menschen gesünder leben und dadurch die Kosten für das Gesundheitswesen senken.

Auch wenn KI allein nicht alle Probleme im Gesundheitswesen lösen kann, so kann sie doch eine wichtige Rolle bei der Lösung einiger Probleme im Gesundheitswesen spielen, insbesondere beim Zugang zu Gesundheitsleistungen. Während die Regierungen an einer Reform des Versicherungsschutzes arbeiten, fasst KI immer mehr Fuß, um den Zugang zur Gesundheitsversorgung zu verbessern. Apps wie Lark nutzen KI und Chatbots zusammen mit persönlichen Daten von Patienten und intelligenten Geräten, um Gesundheitsempfehlungen für die Prävention, die Verringerung von Gesundheitsrisiken (z. B. Fettleibigkeit) und die Behandlung von stabilen chronischen Erkrankungen wie Diabetes zu geben, ohne dass ein Arzt direkt eingreifen muss. KI wird eingesetzt, um Risikopatienten zu identifizieren, Krankheiten vorzubeugen und sich auf bewährte Methoden für aktuelle Krankheiten zu konzentrieren, während gleichzeitig der Zugang zu Anbietern erleichtert wird. Es hat sich gezeigt, dass KI in bestimmten Bereichen effektiver ist als Anbieter, z. B. bei der Erkennung von Krankheiten (wie wir bereits bei der Krebserkennung gesehen haben). In dem Maße, in dem KI auf immer mehr Aufgaben von Krankenschwestern und -pflegern, Ärztinnen und Ärzten und Krankenhäusern angewendet wird, wird sie den Zugang zur Gesundheitsversorgung erleichtern und den Leistungserbringern mehr Zeit für patientenbezogene Tätigkeiten geben.

China ist ein aufschlussreiches Beispiel dafür, wie KI helfen kann, den Zugang zum Gesundheitswesen zu reformieren. China steht vor den wohl größten Herausforderungen im Gesundheitswesen der Welt. Mit einer Bevölkerung von 1,4 Milliarden Menschen hat China enorme Schwierigkeiten, die Bedürfnisse seiner Bevölkerung mit begrenzten Ressourcen zu befriedigen. Ein chinesischer Arzt hat häufig mehr als 50 Patienten pro Tag in der Ambulanz.¹¹ Allgemeinmediziner/innen sind in China sehr gefragt, und es gibt einen Mangel an qualifizierten Allgemeinmediziner/innen. Schlechte Arbeitsbedingungen, Gewaltandrohungen, niedrige Gehälter und ein geringer sozialer Status sind Herausforderungen, die zu dem Mangel beitragen und die durch die Bedenken der Patienten hinsichtlich der Qualität der von Allgemeinärzten geleisteten Pflege noch verstärkt werden. Die Patienten erkennen die Unterschiede in den akademischen und beruflichen Qualitäten von Fachärzten und Allgemeinmedizinern. Hier können neue Technologien wie KI einen Durchbruch erzielen, indem sie Allgemeinmediziner/innen mit besseren Diagnoseinstrumenten und klinischen Behandlungsanleitungen unterstützen. China hat sich daher stark auf KI verlassen, um seine Probleme im Gesundheitswesen zu lösen. Von der medizinischen Spracherkennung und -dokumentation bis hin zur Identifizierung von Diagnosen und Algorithmen für bewährte Methoden zur Behandlung nutzt China die KI, um die Arbeitsbelastung für seine Leistungserbringer zu verringern. Die weitere Integration dieser Technologien in das Gesundheitssystem eröffnet Anbietern den Zugang zu direkter und dezentraler Versorgung und bietet damit eine potenzielle Lösung für das Problem der quantitativ und räumlich begrenzten Ressourcen. Die Vorteile der KI im chinesischen System gegenüber dem US-amerikanischen hängen sicherlich damit zusammen, dass das chinesische System staatlich geführt wird; mit einem zentralisierten, kontrollierten Gesundheitssystem, in dem alle Daten von einer einzigen Stelle abgerufen werden können, ist der Einsatz von KI wirkungsvoller.

Doch selbst mit unseren uneinheitlichen Systemen in den USA wird sich der direkte und entfernte Zugang zu den Ärzten verbessern, wenn die KI weiter in unser Gesundheitssystem integriert wird. Es gibt mehrere Hauptanwendungen für KI, darunter die klinische Entscheidungshilfe, die Patientenüberwachung und -betreuung (aus der Ferne oder direkt), die chirurgische Unterstützung durch automatisierte Geräte und das Management von Gesundheitssystemen. Diese und weitere Themen werden in späteren Kapiteln behandelt.

Mythos: KI wird die Gesundheitskosten senken

Die Prognosen der Centers for Medicare & Medicaid Services für die Gesundheitsausgaben in den USA für den Zeitraum 2018-2027 zeigen, dass die durchschnittliche Wachstumsrate der Gesundheitsausgaben bei 5,5 % liegt und bis 2027 voraussichtlich 6 Billionen US-Dollar erreicht werden. Anhand dieser Zahlen wird deutlich, dass die Gesundheitsausgaben das Wirtschaftswachstum übertreffen werden. Alle Komponenten des Gesundheitswesens werden in den nächsten zehn Jahren voraussichtlich mit sehr hohen jährlichen Raten steigen. Zum Beispiel wird erwartet, dass die stationäre Krankenhausversorgung, die den größten Anteil an den nationalen Gesundheitsausgaben ausmacht, mit einer durchschnittlichen jährlichen Wachstumsrate von 5,6 % über dem Fünfjahresdurchschnitt von 5 % liegt. KI allein wird diese Probleme nicht lösen, aber sie kann helfen, die Kosten einzudämmen und zu senken.

Ein Mythos in Bezug auf KI und Gesundheitskosten ist die Vorstellung, dass KI die bestehenden Gesundheits- oder Medizinmodelle völlig neu erfinden oder umstürzen wird oder dass der Einsatz von KI allein die Gesundheitskosten eindämmen kann. KI ist kein Zauberstab, aber sie kann viel bewirken, indem sie Ineffizienzen beseitigt, innovative Wege zur Betrachtung von Daten und der Gesundheit der Mitglieder findet und neue Anwendungsfälle schafft, die die Gesundheit der Patienten beeinflussen und zu einer Verbesserung der allgemeinen Gesundheit führen, was durchaus zu einem Rückgang der Ausgaben im Gesundheitswesen führen kann (auch wenn dies durch die Kosten der Technologie und der unterstützenden Infrastruktur wieder ausgeglichen wird). Es gibt viele Anzeichen dafür, dass die großen Technologieunternehmen und Start-ups die Art und Weise, wie das Gesundheitswesen betrieben wird, verändern werden. KI wird das Handwerkszeug sein, das viele dieser Veränderungen möglich macht. Du magst das für Haarspalterei halten, aber es geht darum, dass die Probleme des Gesundheitswesens im Widerstand gegen Veränderungen, in der Ineffizienz und Trägheit der Vergangenheit, in der mangelnden Zusammenarbeit von Unternehmen, die miteinander konkurrieren wollen, und im Fehlen einer bahnbrechenden Technologie begründet liegen. Jetzt haben wir die Technologie, die das Spiel verändert: KI.

Wie und wo wird KI vor diesem Hintergrund einen Einfluss haben? Ein wichtiger Bereich, in dem viel Geld ausgegeben wird, ist das Management von chronischen Krankheiten. Wenn Menschen mit einer chronischen Krankheit ihre Behandlungspläne nicht einhalten, kommt es zu Komplikationen, die mit der zugrunde liegenden Krankheit zusammenhängen und zu teuren Krankenhausaufenthalten und/oder teuren Spezialtherapien führen können. Die diabetische Retinopathie (oder DR), eine Augenerkrankung bei Diabetes, ist zum Beispiel dafür verantwortlich, dass jährlich 24.000 Amerikaner erblindet sind, wie die Centers for Disease Control and Prevention (CDC) berichten. Dies ist ein vermeidbares Problem; Routineuntersuchungen mit frühzeitiger Diagnose und Behandlung können bei bis zu 95 % der Diabetiker/innen eine Erblindung verhindern. Dennoch lassen mehr als 50% der Diabetiker ihre Augen nicht oder zu spät untersuchen, um eine wirksame Behandlung zu erhalten. Die Kosten für die Behandlung von diabetesbedingten Krankheiten und Erblindung belaufen sich auf schätzungsweise mehr als 500 Millionen US-Dollar pro Jahr.

KI kann die Kosten für chronische Krankheiten senken, indem sie die Effizienz und Einfachheit von Augenuntersuchungen bei Diabetikern erhöht. Verschiedene Gruppen haben mit Hilfe von maschinellem Lernen und Deep Learning Algorithmen zur automatischen Erkennung von DR entwickelt, von denen einige bereits kommerziell erhältlich sind. Obwohl die binokulare Spaltlampen-Ophthalmoskopie nach wie vor der Standard ist, mit dem andere DR-Screening-Ansätze verglichen werden, sind KI-Anwendungen mit der Fundusfotografie kostengünstiger und erfordern keine Konsultation eines Augenarztes. Bei der Fundusfotografie wird die Rückseite des Auges (Fundus) mit speziellen Blitzkameras mit mikroskopischen Details fotografiert. Da es nur wenige Augenärzte gibt, die diese Untersuchung durchführen können, müssen Nicht-Ärzte eingesetzt werden, die das DR-Screening mithilfe von KI-Algorithmen (Deep Learning) durchführen können, die in verschiedene Tools, wie z. B. ein mobiles Gerät, eingebettet sind. Solche Lösungen werden bereits in Entwicklungsländern eingesetzt, in denen es an Augenärzten mangelt. Sie zeigen, dass ein hochqualifizierter Arzt für die Erkennung von Krankheiten nicht erforderlich ist, wenn KI dazu ausgebildet werden kann.

Die Kosteneinsparungen durch den Einsatz von AI und Fundusfotografie werden mit 16-17 % angegeben (aufgrund weniger unnötiger Überweisungen). Eine Kosteneffektivitätsstudie aus China hat gezeigt, dass die Kosten für das Screening pro Patient zwar um 35 % gestiegen sind, die Kosten pro qualitätsbereinigtem Lebensjahr jedoch um 45 % gesunken sind. Um noch einen Schritt weiter zu gehen und Diabetikern mit einer bestehenden Augenerkrankung zu helfen, hat AT&T zusammen mit Aira eine Forschungsstudie durchgeführt, in der Smart Glasses mit KI-Algorithmen kombiniert wurden, um die Lebensqualität der Patienten zu verbessern, was zu einer verbesserten Medikamententreue durch die Technologie der Medikamentenerkennung führte. Die Technologien für die Medikamententreue sind vielfältig, z. B. die Verfolgung, wann Patienten ihre Pillenflasche öffnen, mithilfe von Sensoren im Flaschendeckel oder Sensoren in der Flasche, die eine Gewichtsabnahme anzeigen. Mobile Apps oder Smart Speaker, die die Patienten an die Einnahme ihrer Medikamente erinnern, können auch mit maschinellem Lernen ausgestattet werden, um den Patienten Gewohnheiten beizubringen, und anstatt wiederholte und lästige Warnungen zu senden, lernen sie die optimale Tageszeit, um dem Patienten eine Erinnerung zu schicken.

Alle diese Strategien, die KI im Management chronischer Krankheiten einsetzen, führen zu einem Wasserfall positiver Gesundheitseffekte und Kosteneinsparungen. In diesem Fall wird der Diabetiker dank der Einfachheit und Wirksamkeit der KI auf diabetische Augenkrankheiten untersucht. Wird eine signifikante Erkrankung festgestellt, kann das AT&T/Aira "Pillenflaschen-Leseprojekt" die Einhaltung der Medikamente erleichtern und Probleme wie Stürze aufgrund von Sehschwäche, Knochenbrüche oder andere Muskel-Skelett-Traumata, Krankenhauseinweisungen aufgrund einer schlechten Blutzuckerkontrolle, Infektionen aufgrund einer schlechten Blutzuckerkontrolle usw. können vermieden werden, was zu erheblichen Kosteneinsparungen und einer Verbesserung der Lebensqualität der Patienten führt.

KI kann bei der Standardisierung und Identifizierung bewährter Methoden im Umgang mit chronischen Krankheiten helfen. In der medizinischen Fachwelt ist seit jeher bekannt, dass es große Unterschiede in der Praxis gibt, und Ökonomen haben darauf hingewiesen, dass die unterschiedlichen Behandlungsmethoden zu einer Verschwendung von Gesundheitsausgaben führen. Ein Beispiel dafür, wie sich das Behandlungsmanagement auf die Gesundheitsausgaben auswirken kann, sind Kreuzschmerzen. Mehr als 80 % der Amerikaner leiden irgendwann in ihrem Leben unter Kreuzschmerzen. Von den Menschen mit Kreuzschmerzen sind 1,2 % für etwa 30 % der Ausgaben verantwortlich. Wenn die Behandlungsrichtlinien eingehalten wurden, waren die Kosten geringer. Das Muster der steigenden Kosten für das Gesundheitssystem insgesamt und für die Patienten ist in Abbildung 1-7 dargestellt, die die Auswirkungen auf die Kosten verdeutlicht, wenn die Verbraucher (d.h. die Patienten) die Behandlungsrichtlinien nicht einhalten.¹²

Lack of adherence to treatment recommendations increases costs

KI kann die Behandlungsvariabilität verringern, indem sie die unzähligen, isolierten Datenquellen nutzt, um optimale Behandlungspfade zu ermitteln, was zu einer Aktualisierung der aktuellen Leitlinien und Verbesserungen bei den Kosten führt. Die Anwendung von Behandlungsrichtlinien der evidenzbasierten Medizin führt zu Einsparungen im Gesundheitswesen; das Problem ist, dass sie in der medizinischen Praxis nicht strikt befolgt werden. KI würde die Anwendung von Behandlungsrichtlinien erleichtern, indem sie dem Arzt die Entscheidung über den Behandlungsplan erleichtert. (Darauf wird in Kapitel 4 näher eingegangen.) Einige haben gefragt: Was ist, wenn KI die falsche Empfehlung ausspricht? Da die KI die Entscheidung des Arztes unterstützen und erleichtern würde, läge die endgültige Behandlungsentscheidung und die Verantwortung für die Überprüfung der KI-Empfehlungen wahrscheinlich beim Arzt.

Krankenhausaufenthalte und Verwaltungskosten sind ebenfalls ein wichtiger Faktor im US-Gesundheitswesen. "Mehr als eine Billion Dollar werden jedes Jahr für teure Verwaltung und vermeidbare Krankenhauseinweisungen verschwendet", so Ian McCrae, CEO von Orion Health.¹³ Orion Health nutzt KI, um Patientenkosten und Rückübernahmerisiken vorherzusagen und gleichzeitig klinische und finanzielle Ausreißer zu analysieren, um die Behandlung und das Praxismanagement am Ort der Behandlung zu verbessern. KI wird auf die großen Datenpools angewandt, die durch zahlreiche Eingaben eingehen, darunter sozioökonomische Daten, Verhaltensdaten, biometrische Daten, demografische Daten, geografische Lage usw., um genauer vorherzusagen, wer von einem aggressiveren Behandlungsmanagement profitieren würde, mit dem Ziel, Krankenhauseinweisungen zu vermeiden.

Ein weiterer Bereich, in dem hohe Gesundheitsausgaben anfallen, ist die Arzneimittelforschung und -entdeckung. In der Vergangenheit hat die Entwicklung neuer Medikamente und Impfstoffe viel Zeit in Anspruch genommen, und der Nachweis der Sicherheit und Wirksamkeit ist ein mühsamer und zeitaufwendiger Prozess. KI könnte diesen Prozess nun erleichtern, indem sie die Analyse- und Forschungskomponenten beschleunigt. Dies wird in Kapitel 5 näher erläutert.

Accenture führte 2017 eine Studie durch, aus der hervorging, dass durch den Einsatz von KI im Gesundheitswesen bis zum Jahr 2026 jährlich 150 Mrd. USD an Kosten eingespart werden könnten, Unterstützung von Verwaltungsabläufen (18 Mrd. USD), Betrugserkennung (17 Mrd. USD), Reduzierung von Dosierungsfehlern (16 Mrd. USD), vernetzte Maschinen (14 Mrd. USD), Identifizierung von Teilnehmern an klinischen Studien (13 Mrd. USD), vorläufige Diagnose (5 Mrd. USD), automatische Bilddiagnose (3 Mrd. USD) und Cybersicherheit (2 Mrd. USD).¹⁴ Diese Statistiken zeigen den potenziellen Wert und die transformative Wirkung des Einsatzes von KI zur Kostensenkung. Aber das ist eine potenzielle Kostenreduzierung in der Zukunft; die eigentliche Schwierigkeit liegt darin, diese Kosten in reduzierte Patientenkosten umzuwandeln.

Die Herausforderungen bei der Umsetzung bestehen weiterhin und umfassen Themen wie die Kosten für die Implementierung dieser Technologie und die kulturelle Akzeptanz von KI im Gesundheitswesen. All dies sind Hindernisse, die dem Einsatz von KI bei der Kontrolle der Gesundheitsausgaben im Wege stehen. Investitionen in KI können von kurzfristigen finanziellen Zielen ablenken. Altsysteme existieren in der Regel als Silos, und der Zeit- und Kostenaufwand für die Herstellung von Interoperabilität kann unerschwinglich sein. Die Leistungserbringer selbst sind sich der Vorteile von KI und ihrer Anwendung in ihrer Praxis zur Verbesserung der Lebensqualität ihrer Patienten möglicherweise nicht bewusst. Die sichere und respektvolle Kontrolle der Vertraulichkeit von Patientendaten durch diese Systeme und den Einsatz von KI ist ein weiteres potenzielles Hindernis. Die Zukunft der KI bei der Kontrolle der Gesundheitskosten und der Verbesserung der Gesundheit unserer Bevölkerung liegt jedoch klar auf der Hand. KI hat eine Welt voller Möglichkeiten eröffnet, mit Ärzten und Gesundheitssystemen zusammenzuarbeiten, um das Leben und die Gesundheit unserer Bevölkerung zu verbessern. Die Zukunft ist voller Potenzial für den Einsatz von KI im Gesundheitswesen, aber sie ist nicht grenzenlos.

Eine Flut von neuen Gesundheitsprodukten, die auf KI-Technologien basieren, steht bevor. KI führt zu einem Paradigmenwechsel im Gesundheitswesen, und die Anwendung von KI ist für eine Vielzahl von Herausforderungen von großem Wert. Bisher haben wir einen kurzen Überblick über die Geschichte der KI gegeben, eine Definition von KI gegeben und einige übergreifende Erwartungen, d.h. Mythen über KI im Gesundheitswesen, ausgeräumt. Als Nächstes werden wir einige KI-Mythen und KI-Technologie-Mythen untersuchen, die dein Verständnis für die Kunst des Möglichen bei der Anwendung von künstlicher Intelligenz weiter verbessern .

KI-Mythen

Wer kann leugnen, dass Science-Fiction-Filme unser Denken über KI beeinflussen und prägen? Die Filme zeigen eine hoffnungsvolle Sicht auf die KI und manchmal auch eine dystopische Zukunft, in der die KI die menschliche Intelligenz übertrifft und unser Herrscher wird. Es gibt auch Interviews und Zitate von namhaften Wissenschaftlern, Erfindern und Unternehmern, die darauf hinweisen, dass eine empfindungsfähige KI - eine superintelligente KI, die ihre eigenen Regeln aufstellt - kommen wird und dass eine KI-Apokalypse möglich ist, wenn die KI weiter fortgeschritten ist. All das wirft Fragen darüber auf, was KI heute ist und was sie in naher und ferner Zukunft sein wird. Kann KI vernünftig sein?¹⁵ Wird KI empfindungsfähig werden und Entscheidungen treffen? Sollten wir uns Sorgen über die Ankunft eines KI-Overlords machen? Die folgenden Abschnitte beantworten diese und weitere Fragen und räumen mit einigen Mythen über KI auf.

Mythos: KI ist eine existenzielle Bedrohung

Das Narrativ der existenziellen Bedrohung verstärkt das Gefühl, dass es zu spät ist, etwas zu tun. Auch wenn die Ängste vor Superintelligenz übertrieben sind, stellt der rasche Fortschritt der allgemeinen logischen Technologie und der KI ein existenzielles Risiko dar, das es zu bewerten und zu überwachen gilt. Wie bei jeder Technologie oder jedem Werkzeug bleibt es den Menschen überlassen, ob sie KI für positive oder ruchlose Zwecke einsetzen. Heutzutage gibt es keine KI, die eine Motivation, ein Ziel, eine Absicht oder einen Sinn für einen Zweck hat und danach handelt. Damit das stimmt, müsste eine starke KI Realität werden. Es ist die starke KI oder allgemeine KI, die einige als Grundlage für die spekulative, dystopische KI-Zukunft verwendet haben. Es ist jedoch möglich und vielleicht sogar wahrscheinlich, dass die Menschen die KI als Waffe einsetzen oder fahrlässig mit ihr umgehen, so dass sie eine existenzielle Bedrohung darstellt - wenn nicht für die Menschheit, dann für bestimmte Gruppen wie Minderheiten.

Eine Maschine, die jede Aufgabe verstehen oder lernen kann, die auch ein Mensch kann, ist starke KI. Manche beschreiben dies als Bestehen des Turing-Tests, der 1950 von Alan Turing entwickelt wurde und auf der Fähigkeit eines Computers basiert, eine Intelligenz zu zeigen, die nicht von der eines Menschen zu unterscheiden ist. Vielleicht sollten wir einen anderen Test verwenden, um starke KI nachzuweisen - vielleicht einen Hassabis-Test, nach Demis Hassabis, der in einem Podcast aus dem Jahr 2019 vorschlug, dass wir wissen, dass die allgemeine Intelligenz in der KI angekommen ist, wenn ein KI-System einen Nobelpreis für eine wissenschaftliche Entdeckung gewinnt. Bis heute hat noch kein Computer oder eine Maschine den Turing-Test oder den Hassabis-Test bestanden.

Starke KI ist ein zukünftiger Zustand, eine Welt, in der Computer oder Maschinen, wie Menschen, Folgendes können:

Von einer Wissensdomäne in eine andere wechseln
Konversation in natürlicher Sprache, mit all ihren Nuancen und ihrem Kontext
Selbstlernen ohne menschliches Zutun
eigene Ideen und Ziele zu haben
Die physische Welt manipulieren, um neue Dinge zu entwickeln und zu schaffen

Das sind nur einige Merkmale der menschlichen Intelligenz, und KI-Systeme, die all diese Dinge können, gibt es nicht. Zurzeit wissen wir nicht, wie wir solche Systeme bauen können. Googles AlphaGo kann das Spiel Go spielen, aber nicht Poker oder Schach. Jedes KI-System ist zweckgebunden und wird oft als "narrow AI" oder "weak AI" bezeichnet; das ist der aktuelle Stand der Technik. Wahrscheinlich brauchen wir mehr Innovationen, mehr Erfindungen in Algorithmen, Wissenschaft und Hardware, um eine starke KI zu erreichen.

Im Jahr 2014 sagte der Professor und Physiker Stephen Hawking der BBC: "Die Entwicklung einer vollständigen künstlichen Intelligenz könnte das Ende der menschlichen Ethnie bedeuten." Vielleicht würde das stimmen, wenn wir wüssten, wie wir eine umfassende künstliche Intelligenz entwickeln können - eine KI, die Absichten und Ziele hat, autonom agiert und die Mittel hat, die physische Welt zu manipulieren. Hawking hat eine umfassende künstliche Intelligenz nicht definiert, aber wir können davon ausgehen, dass er eine starke KI meinte.

Die Spekulationen, irreführenden Aussagen und die Kritik rund um die KI und ihre potenzielle Zukunft haben KI-Forscher/innen und die Wissenschaft dazu veranlasst, auf diese wachsende Zahl von KI-Warnungen mit einer objektiven und faktenbasierten Diskussion zu reagieren. Eine Schlagzeile der MIT Technology Review aus dem Jahr 2016 besagt, dass "die Experten nicht glauben, dass superintelligente KI eine Bedrohung für die Menschheit ist". Es ist schwierig, die Zukunft vorherzusagen, und es gibt prominente KI-Forscher/innen, die zu Recht behaupten, dass die allgemeine KI ein existenzielles Risiko darstellt. Aber ist dieses Risiko in 5 Jahren oder in 50 Jahren gegeben? Allein die Tatsache, dass es sich um ein Risiko handelt, bedeutet, dass wir dieses Risiko ernst nehmen und gleichzeitig Innovationen zulassen müssen.

Die Vorstellung, dass Menschen durch Maschinen ersetzt oder überflügelt werden, basiert auf einer Reihe von fragwürdigen Annahmen, von denen Tony Prescott in seinem Artikel "The AI Singularity and Runaway Human Intelligence" einige aufzeigt. Er behauptet, dass wir die KI nicht mit einem einzelnen Durchschnittsmenschen vergleichen, sondern die kollektive und sich ständig weiterentwickelnde Intelligenz der menschlichen Spezies betrachten sollten. Wir werden Technologien entwickeln, die die natürliche Intelligenz des Menschen - also die KI - ergänzen, so wie wir es mit Computern, dem Internet und der Cloud getan haben, und davor mit Papyrus, dem Elektromotor, dem Abakus, dem Telefon und so weiter. KI ergänzt die Ärzte und das Gesundheitssystem.

Mythos: KI ist nur maschinelles Lernen

In der Wissenschaft und der Industrie wird unter dem Begriff KI viel gearbeitet. Natürlich stellt sich die Frage, ob KI nicht eine große Lüge ist, nur weil Forscher/innen oder Wissenschaftler/innen ihre Arbeit als KI bezeichnen. Heutzutage kann künstliche Intelligenz ohne maschinelles Lernen nicht gedeihen, während maschinelles Lernen ohne KI lebt, und genau da liegt der Haken. Wie KI ist auch ML ein Forschungsgebiet, das Algorithmen und statistische Modelle verwendet, um Aufgaben zu erfüllen, die auf Mustern und Schlussfolgerungen beruhen. ML ist konkreter, weil wir bestimmte Algorithmen als ML bezeichnen können.

Als die ersten Computer aufkamen, bauten wir Systeme, um menschliche Aufgaben zu erledigen, die wir mit menschlicher Intelligenz in Verbindung bringen und die vorher nicht von Maschinen erledigt werden konnten, wie zum Beispiel Dame oder Backgammon spielen. Wir benutzten kein maschinelles Lernen, sondern bezeichneten dies als intelligentes System, oder KI. KI wird nicht durch den Einsatz von maschinellem Lernen definiert, auch wenn wir heute darüber diskutieren, ob Systeme, die kein maschinelles Lernen verwenden, intelligent oder KI sind.

Wir haben die Errungenschaften von Computern, die Aufgaben erledigen, die zuvor ausschließlich der menschlichen Intelligenz vorbehalten waren, wie z. B. ein Computer, der Jeopardy! gewinnt, als KI bezeichnet. Die Leistung von IBM Watson war nicht allein durch maschinelles Lernen möglich, sondern erforderte eine eigens dafür geschaffene Computerinfrastruktur. Sie erforderte NLP-Techniken, ein maßgeschneidertes Framework, eine Architektur zur Textverarbeitung, massive Parallelverarbeitung und vieles mehr. IBM Watson aus dem Jahr 2011 ist ein Beispiel für KI, ein konkretes Beispiel, das mehr als maschinelles Lernen einsetzt, um sein Ziel zu erreichen.

KI ist real; sie ist kein Schlangenöl, keine Vaporware, kein Scherz oder eine dicke, fette Lüge. KI ist viel mehr als maschinelles Lernen. Viel wichtiger ist, dass es bei KI darum geht, Systeme zu entwickeln, die Aufgaben erledigen, für die früher menschliche Intelligenz erforderlich war. Die Gleichsetzung von KI mit maschinellem Lernen ist eine kognitive Verzerrung, ein übermäßiger Rückgriff auf ein vertrautes Werkzeug. Abraham Maslow sagte 1966: "Wenn das einzige Werkzeug, das du hast, ein Hammer ist, ist es wohl verlockend, alles wie einen Nagel zu behandeln." In späteren Kapiteln werden wir konkretere Beispiele für zukünftige KI-Systeme sehen, die mehr als ML für Intelligenz einsetzen, um Aufgaben zu erfüllen, die bisher nur von Menschen erledigt wurden.

KI simuliert die menschliche Intelligenz durch Heuristiken (d.h. maschinelles Lernen) und durch Analysen. Um KI-Lösungen für allgemeine Zwecke zu entwickeln, braucht man mehr als nur maschinelles Lernen. Das ist ähnlich wie bei einem Menschen, der Sensoren (zur Datenerfassung), Nerven, Arterien, Herz, Nieren, Lungen und so weiter braucht, um zu funktionieren. Wie der menschliche Körper ist auch die KI viel mehr, als man auf den ersten Blick sieht, denn es müssen Systeme vorhanden sein, um sie zum Leben zu erwecken und die menschliche Intelligenz zu imitieren.

Mythos: KI macht zu viele Versprechungen und liefert zu wenig

Akteure, die auf KI setzen, um Ergebnisse zu erzielen, werden enttäuscht sein. Diejenigen, die KI nutzen, um Ergebnisse zu erzielen, werden begeistert sein. Maschinelles Lernen ist die einflussreichste Technologie der KI, und ihr Potenzial für unmittelbare und leistungsstarke Ergebnisse ist beeindruckend, vor allem im Gesundheitswesen.¹⁶ Die Anwendungen des maschinellen Lernens nehmen zu und werden allgegenwärtig. Die Techniken und Architekturen für die Entwicklung von ML-Anwendungen unterscheiden sich deutlich von denen für die Entwicklung von Apps oder webbasierten Anwendungen. ML-Anwendungen müssen sich mit den Daten, dem ML-Modell und dem unterstützenden Code befassen. ML-Anwendungen erfordern andere Testansätze, um Verzerrungen aus den Daten herauszuhalten, Erklärbarkeit zu gewährleisten und kontinuierliche Verbesserungen umzusetzen. Die Entwicklung von ML-Anwendungen erfordert andere Talente in der Wirtschaft, nämlich KI-Produktmanager, und in der Technik, nämlich KI-Ingenieure.

KI-Engineering unterscheidet sich in vielerlei Hinsicht von herkömmlicher prozeduraler Software. Die Entwicklung von ML-Modellen ist oft mehr eine Testübung, Versuch und Irrtum, als ein Entwicklungslebenszyklus. Die Qualitätssicherung/Tests unterscheiden sich von den traditionellen Tests, da ML-Modelle mit Tests verteidigt werden müssen, die nicht die Funktionalität, sondern die Verzerrung, Datenverschiebung, Wirksamkeit und mehr testen. Das Modell in der Produktion setzt einen Maßstab, der sich nicht verschlechtern sollte, wenn die Modelle in der Produktion neu trainiert werden. Jedes Modell sollte besser sein als das vorherige.

Viele Unternehmen werden eher kaufen als entwickeln, und diese Interessengruppen sind am meisten gefährdet, KI-Produkte zu kaufen, die Techniken aus den 1960er bis 1990er Jahren anwenden, im Gegensatz zu Techniken nach 2012, bei denen Deep Learning und NLP Hand in Hand gehen oder Deep Learning die bevorzugte Technik ist. Die Unternehmen müssen die Unterschiede verstehen und KI-Technologien erforschen, um falsche Behauptungen zu erkennen und die richtige Wahl zu treffen. Wenn sie dies nicht tun, kann KI für das Unternehmen enttäuschend sein.

Mythos: Echte Conversational AI gibt es bereits

Das Versprechen, dass dialogorientierte KI die ärztliche Versorgung zur richtigen Zeit und am richtigen Ort unterstützt, ist enorm. Echte konversationelle KI ist ein Wunschtraum; wir haben noch nicht die Technologie, um das Ziel vollständig zu erreichen. KI-Technologien bringen uns schnell in eine Welt, in der KI die natürliche Sprache nutzen kann, um mit Patienten in ein normales menschliches Gespräch zu treten, aber das ist heute noch nicht die Realität. Die Konversations-KI befindet sich heute am schwachen Ende des Kontinuums zwischen schwacher und starker KI, aber sie bewegt sich auf eine starke KI zu, in der eine natürliche Konversation zwischen Maschine und Mensch stattfinden kann. Heute erleben wir oft eine Suche oder einen Q&A-ähnlichen Dialog mit "Dingen", im Gegensatz zu einer Konversation in natürlicher Sprache.

Star Trek hat mit seinem Voice-First-Computer die Idee der konversationellen KI populär gemacht. Google nannte seine erste Sprachtechnologie später Majel, zu Ehren von Majel Barrett, der menschlichen Stimme hinter der Computerstimme von Star Trek. Heute schwärmen wir von dieser Fähigkeit, die allmählich Gestalt annimmt, wie Sprachlautsprecher wie Alexa, Google Assistant und Siri beweisen. Die heutige KI bietet jedoch nicht das gleiche Maß an menschlicher Sprachinteraktion, die Fähigkeit zur Konversation zwischen Mensch und Maschine, wie sie in den verschiedenen Star Trek-Sprachcomputern zu finden ist. Jeder, der die heutige Sprachcomputertechnologie nutzt, weiß, dass die Konversation in keiner Weise mit einer Interaktion oder Kommunikation von Mensch zu Mensch vergleichbar ist. Die allgemeine Vorstellung von KI, die wie ein Mensch spricht, oder von konversationeller KI, ist kein klar definiertes Problem. Heutzutage können Computer und KI nur Probleme lösen, die klar definiert sind. Die Art und Weise, wie wir als Menschen sprechen, ist nuanciert und komplex und basiert oft auf dem Kontext, Hintergrundwissen über das Thema, Annahmen über den Bereich oder sogar auf dem Zeitpunkt, zu dem der Inhalt ausgedrückt wird. Star Trek ist unsere Zukunft - echte konversationelle KI, bei der die Maschine die Nuancen der Sprache versteht und sich auf ein Gespräch einlässt.

Der Sieg von IBM Watson bei Jeopardy! war eine ikonische Demonstration der KI, die der Welt das Potenzial der KI vor Augen führte. Ken Jennings, einer der menschlichen Teilnehmer, sagte nach der Show, dass er "die neuen Computer-Overlords begrüßt". Der Forschungsdirektor von IBM, John E. Kelley III, beschrieb IBM Watson als "Frage- und Antwortmaschine", einen Computer, der ähnlich wie in Star Trek in der Lage ist, in natürlicher Sprache gestellte Fragen zu verstehen und sie zu beantworten.¹⁷ IBM Watson nutzte ein speziell entwickeltes, massiv-paralleles Rechensystem (keine grafischen Verarbeitungseinheiten, da es kein Deep Learning gab), um jede Jeopardy! -Frage in eine Ja/Nein-Vorhersage zu verwandeln. Die Schwierigkeit bestand darin, dies schnell zu tun, Tausende von Optionen auszuprobieren und dann die Frage mit hoher Sicherheit zu beantworten, bevor ein konkurrierender Kandidat antwortet; dies erforderte eine andere Herangehensweise an NLP als das, was zuvor von KI-Ingenieuren gemacht wurde.

In der Jeopardy! -Folge hörte Watson weder auf Alex Trebek noch auf die Kandidaten. Das wurde deutlich, als der menschliche Kandidat Ken Jennings eine falsche Antwort gab und Watson sie wiederholte. Die Produzenten von Jeopardy! und IBM einigten sich auf ein Regelwerk, das audiovisuelle Fragen ausschloss, bei denen die Teilnehmer/innen einen Ton hören oder ein Bild oder ein Video sehen mussten, um die richtige Antwort zu finden, weil Watson diese Eingaben nicht verarbeiten konnte. Watson war nicht in der Lage, Töne als Eingaben zu verarbeiten; er konnte die gesprochenen Fragen nicht hören, sondern bekam die Fragen als getippten Text in der gleichen Geschwindigkeit vorgesetzt. Die anderen Teilnehmer hörten oder lasen den Hinweis. Der Auftritt von IBM Watson bei Jeopardy! war 2011 eine fantastische Leistung, aber er kam nicht an den Voice-First-Computer aus Star Trek in den 1960er Jahren heran, und über diese Technologie verfügen wir auch heute noch nicht. Watson repräsentiert weitgehend den Stand von 2011.

Mit den Fortschritten bei Sprachmodellen, die Text in einer für Maschinen verständlichen Form darstellen, sehen wir jedoch rasche Fortschritte auf dem Weg in eine Star Trek-ähnlicheZukunft. OpenAI, eine gemeinnützige KI-Forschungs- und Entwicklungsorganisation, entwickelt bessere Sprachmodelle. Google hat ein Sprachmodell entwickelt, das den Namen einer Figur aus der Sesamstraße trägt: BERT. Die Anwendung von BERT im klinischen Bereich (clinical BERT) hilft der KI, die Sprache des Gesundheitswesens zu verstehen. Das wiederum ermöglicht viele Anwendungsfälle in der Telemedizin, bei Arzt-Patienten-Gesprächen, bei der Erinnerung von Patienten an Arztbesuche, bei der klinischen Kodierung und vielem mehr. Es gibt bereits heute konversationelle KI-Technologien, und diese Technologie reift weiter, was darauf hindeutet, dass konversationelle KI im Gesundheitswesen in greifbare Nähe rückt. Virtuelle Assistenten wie Google Home, Apples Siri und Amazon Alexa sind Beispiele für konversationelle KI-Technologien.

Wir können KI mit Sprachlautsprechern, Mobiltelefonen und anderen Geräten nutzen, um fantastische Gesundheitsleistungen zu erbringen: Wir können Erinnerungen an Medikamente verschicken, Patienten bei der Suche nach Anbietern helfen, Fragen zur Gesundheitsversorgung beantworten, grundlegende Informationen über Krankheiten vermitteln, Fragen zu Gesundheitsleistungen beantworten oder die oft frustrierende Nutzung virtueller Assistenten ersetzen, die dich auffordern, Knöpfe zu drücken, oder einfach deine Intonation mit der Stimme nicht erkennen. In Kapitel 4 über die Digitalisierung werden wir die Modalität der Stimme im Gesundheitswesen genauer untersuchen.

Mythos: KI als Alleinherrscher

Wir verwenden KI, um verschiedene Anwendungen und Produkte zu beschreiben, die Eigenschaften menschlicher Intelligenz aufweisen, aber es gibt keinen KI-Overlord. KI-Technologien sind in Produkte eingebettet, die wir nutzen, aber immer mit menschlicher Absicht und Entscheidungsfindung. Wir können Produkte entwickeln, die uns sagen, wem wir Kredit geben oder verweigern sollen. Wir können KI nutzen, um Prioritäten bei der Patientenversorgung zu setzen. Wir können ein selbstfahrendes Auto bauen, das durch Straßen navigiert, die es noch nie zuvor gesehen hat. In jedem Beispiel hat eine Person, ein Mensch, entschieden zu handeln, nicht der Algorithmus. Das hält die Menschen (die Regierung, die Medien oder das Unternehmen, das den Algorithmus einsetzt) natürlich nicht davon ab, sich der Verantwortung zu entziehen und der KI die Schuld zu geben.

Unternehmen und Menschen geben ihre Entscheidungsgewalt an KI-Produkte ab und lassen zu, dass die Ergebnisse von KI-Produkten zu Entscheidungen werden. KI trifft keine Entscheidungen, sie wird nur zum Sündenbock für Vorurteile und die unbeabsichtigten Folgen der Entscheidungen, die Menschen treffen. Vernunft und Entscheidungsfähigkeit sind wesentliche Eigenschaften, die Ärzte und Ärztinnen brauchen, und es gibt keinen KI-Overlord mit diesen Fähigkeiten. Wir haben derzeit keine Maschinen, mit denen wir uns hinsetzen und ein Gespräch führen oder eine mögliche Entscheidung diskutieren können; wir brauchen Menschen.

KI ist derzeit nicht in der Lage, eine selbstlernende, selbstverbessernde Technologie zu sein, die Entscheidungen trifft. Heute können wir Systeme, Anwendungen und Werkzeuge entwickeln, die Eigenschaften menschlicher Intelligenz aufweisen. Wir müssen sie pflegen und füttern, um sicherzustellen, dass sie in einem genau definierten und beabsichtigten Problembereich erfolgreich arbeiten. Wir wissen nicht, wie wir Systeme bauen können, die selbstständig arbeiten und kontinuierlich ohne menschliches Eingreifen lernen oder zwischen verschiedenen Bereichen wechseln können (z. B. von der Onkologie zum Schach).

Nehmen wir jedoch an, dass KI entwickelt und eingesetzt wird, um einem Akteur im Gesundheitswesen bestimmte Maßnahmen zu empfehlen. Der Betroffene beginnt, den Empfehlungen zu vertrauen und verstärkt den zugrunde liegenden Mechanismus, um die entsprechenden Erkenntnisse zu gewinnen. Diese Rückkopplungsschleife reicht von der KI der ersten Generation, die von der menschlichen Datensammlung gelernt hat, bis zur KI der zweiten und späteren Generation, die von derselben KI gelernt hat. Obwohl die KI nicht die Absicht hat, Schaden anzurichten, kann sie als Folge des vorgeschriebenen Lernens im Laufe der Zeit potenziell Schaden anrichten.

Manche Unternehmer sehen in der KI eine Chance zur Automatisierung. Aber die Automatisierung braucht Kontrollen und Gegenkontrollen, um sicherzustellen, dass sie sich auf sichere Weise weiterentwickelt. KI braucht Kontrollen und Gegenkontrollen. Es ist wichtig, die menschlichen Faktoren zu berücksichtigen, die dabei eine Rolle spielen, wie z. B. die Faulheit eines Akteurs, der seine Entscheidungsbefugnis der KI überlässt, weil er der Meinung ist, dass die KI gut genug oder vielleicht sogar besser ist als er selbst. Cathy O'Neil behandelt dieses Szenario in ihrem Buch Weapons of Math Destruction (Crown).

Mythen über KI-Technologie

Zahlreiche Mythen ranken sich um KI, die unser Leben, unsere Arbeit und unser Spiel immer mehr durchdringt. Der nächste Abschnitt befasst sich mit einigen der großen Mythen, wie z. B. dem Anthropomorphismus, der KI oft zugeschrieben wird, der Vorstellung von KI als Blackbox und mehr.

Mythos: KI-Algorithmen sind voreingenommen

KI-Algorithmen sind nicht voreingenommen; Menschen und Daten sind voreingenommen. Menschen wählen die Daten aus, mit denen KI-Algorithmen trainiert werden. Menschen konstruieren, kommentieren, erstellen und bestimmen die Datensätze, die für das Training von KI-Algorithmen verwendet werden. Die menschliche Entscheidungsfindung ohne Algorithmen ist oft voreingenommen. Wenn KI etwas wäre, wenn sie eine Meinung hätte, könnte sie den Menschen sagen, dass die Daten, mit denen sie gefüttert wird, nicht genug Frauen oder People of Color enthalten, um genaue, unvoreingenommene Ergebnisse zu erzielen. KI-Algorithmen denken nicht selbst, sie sind lediglich ein Spiegel, der die von Menschen gelieferten Daten reflektiert. Die Voreingenommenheit der Algorithmen kommt von den Daten, und die Daten kommen von den Menschen; daher kommt auch die Voreingenommenheit der Algorithmen von den Menschen. Cassie Kozyrkov , Chefingenieurin für Entscheidungsintelligenz bei Google und vielbeschäftigte Bloggerin, bringt es auf den Punkt: "Jede Technologie ist ein Echo der Wünsche desjenigen, der sie gebaut hat", und "Voreingenommenheit kommt nicht von den KI-Algorithmen, sondern von den Menschen".

Mythos: KI sieht, hört und denkt

Die Verwendung von Anthropomorphismus in der Terminologie zur Beschreibung von KI kann ein Hindernis sein, wenn es darum geht, die Fähigkeiten von KI-Lösungen wirklich zu verstehen oder zu begreifen, was ein aktuelles KI-System leistet. Schuldzuweisungen an KI-Systeme können uns daran hindern, die Fähigkeiten von KI zu verstehen, und verhindern, dass wir definieren können, wie KI im Gesundheitswesen eingesetzt werden sollte. KI hat keine aktive Wahrnehmung wie der Mensch; daher sieht, hört oder denkt KI nicht wie der Mensch. Am Tag nach dem dreitägigen Wettbewerb zwischen IBM Watson und den besten menschlichen Kandidaten von Jeopardy, Brad Rutter und Ken Jennings, gab es auf Ted.com einen Live-Webstream. Stephen Baker, Autor von Final Jeopardy: Man vs. Machine and the Quest to Know Everything (Houghton Mifflin Harcourt), moderierte eine Runde von IBMern, Dr. David Ferrucci und IBM Fellow Kerrie Holley. Eine Frage wurde dem IBM-Team gestellt: "Können Computer denken?" Watsons leitender Forscher, David Ferrucci, antwortete: "Schwimmen U-Boote?" U-Boote können nicht schwimmen. Und Computer denken nicht, sie sehen nicht und sie hören nicht.

Computer können Berechnungen durchführen - eine Funktion, die sie sehr gut beherrschen. Heutzutage können Computer und KI Dinge besser machen als Menschen, solange diese Dinge gut definiert sind, und es gibt Probleme, wenn das nicht der Fall ist. Bei fast jeder Aufgabe, bei der es auf Berechnungen ankommt, sind Maschinen den Menschen überlegen.

Es ist irreführend, der KI anthropomorphe Eigenschaften wie Sehen, Hören oder Denken zuzuschreiben. Auf diese Weise können wir weder das Potenzial noch die derzeitigen Grenzen der KI vollständig verstehen. Die Computer Vision nutzt Deep Learning (DL), um ihre Genauigkeit zu erhöhen. Letztendlich sagt das DL-Modell jedoch genau voraus, ob ein Bild oder ein Objekt, das aus Pixeln besteht, die aus 1en und 0en bestehen, tatsächlich "Kerrie Holley" oder "Siupo Becker" ist. Maschinen nehmen das Sehen nicht auf dieselbe Weise wahr wie Menschen. Wenn jemand von einer KI schreibt, die denkt und lernt, ist oft nicht klar, ob er das wörtlich oder metaphorisch meint.

Die fast menschenähnliche Leistung der Gesichtserkennung kann je nach Kontext irreführend und falsch sein. Bei manchen Bildern ist die Computer Vision besser als der Mensch. Natürlich kann ein Deep-Learning-Modell viel mehr Bilder durchgehen als ein einzelner Arzt, so dass die Computer Vision in einigen Fällen besser abschneidet als der Mensch. Dank Deep Learning funktioniert das Computer Vision gut und in manchen Fällen sogar besser als das menschliche Auge, aber es gibt Herausforderungen, die wir mit Computer Vision nicht bewältigen können.

Zum Beispiel kann ein Mensch mit einem einzigen Blick die Größe, das Alter oder das Geschlecht einer anderen Person einschätzen; KI, also Computer Vision, ist darin nicht so gut. Menschen können schnell feststellen, ob etwas essbar ist, während Computer Vision nicht so genau ist. Wenn wir der KI ein Bild deines Ehepartners zeigen, bei dem die Lippen zwischen Augen und Nase verschoben sind, erkennt die KI die Anomalie vielleicht nicht, aber dein Kind würde sagen: "Ja, das sieht aus wie du, aber das bist du nicht, dein Mund ist nicht an der richtigen Stelle." Wenn wir das menschliche Auge mit dem Computersehen kombinieren, können wir im Gesundheitswesen etwas Besonderes erreichen.

Die Herausforderung in der klinischen Versorgung liegt nicht nur darin, einen Tumor zu entdecken, sondern auch darin, ein Urteil darüber zu fällen. Im Gesundheitswesen müssen Ärzte Dinge finden, nach denen sie nicht gesucht haben - Anomalien. Es ist eine Herausforderung, Krankheitszustände und Defekte zu finden, für die ein KI-Modell nicht trainiert ist. Das zu finden, wonach man nicht sucht, ist für Ärztinnen und Ärzte sehr schwer und für ein KI-Modell noch schwieriger, denn es wird nur das beobachten und erkennen, was ein trainiertes Modell ihm beibringt.

Mythos: KI diagnostiziert Krankheiten besser als Ärzte

KI diagnostiziert Krankheiten nicht besser als Ärzte, denn der Diagnoseprozess ist ein komplexer, kooperativer Vorgang, der klinisches Denken erfordert. Richtiger wäre es zu sagen, dass KI in einzelnen Situationen, in denen KI nur eine bestimmte Frage gestellt wird, eine bessere Diagnose stellt als Ärzte.

Ein Arzt oder eine Ärztin nähert sich der diagnostischen Frage eines Patienten oder einer Patientin, indem er oder sie zunächst eine Anamnese der Symptome des Patienten oder der Patientin erhebt und den Patienten oder die Patientin untersucht, um körperliche Anzeichen für eine Krankheit zu finden; dann muss der Arzt oder die Ärztin seine/ihre persönliche Wissensbasis durchsuchen und sie mit diagnostischen Richtlinien ergänzen, sobald mögliche Differentialdiagnosen (d.h. mögliche Krankheitszustände) identifiziert sind. Dann werden Labor- und Bildgebungsuntersuchungen durchgeführt und Spezialisten auf bestimmten Gebieten hinzugezogen, um die Krankheit genauer zu bestimmen. Manchmal ist dieser Prozess ganz einfach. Manche Symptome sind pathognomonisch (d.h. sie sind echte Vorboten bestimmter Krankheiten), und die Diagnose ist somit eindeutig. Wenn ein Patient zum Beispiel über einen steifen Nacken und Fieber klagt und die Kernig- und Brudzinski-Zeichen (körperliche Untersuchungstests) dies bestätigen, ist die Diagnose einer Meningitis fast immer sicher. Problematisch wird es, wenn die Symptome und Anzeichen zwar spezifisch, aber nicht sensitiv sind; nicht alle Patienten haben die gleichen Symptome oder weisen bei der Untersuchung die eindeutigen körperlichen Anzeichen auf.

So können selbst relativ einfache Diagnosen komplex werden, da mehr Tests und weitere Untersuchungen durchgeführt werden müssen, um die eigentliche Diagnose zu stellen. Dieser schrittweise Prozess, bei dem eine Vielzahl von Daten ausgewertet wird und dann Diagnoseinstrumente ausgewählt werden, die weiterhelfen, erfordert Urteilsvermögen und ein umfassendes Wissen darüber, wie die inneren Organe und Systeme des Patienten zusammenhängen und nicht in einzelne Bereiche unterteilt sind. KI kann einen bestimmten Bereich analysieren und hilfreiche Erkenntnisse liefern, aber sie kann nicht die Fähigkeit übernehmen, ein so komplexes System wie den Menschen ganzheitlich zu erfassen.

Es gibt jedoch zahlreiche Studien, die zeigen, dass KI-Modelle bei bestimmten Aufgaben besser abschneiden als Radiologen, Kardiologen oder andere Ärzte. Forscher/innen der Stanford University haben eine Studie veröffentlicht, in der sie ein von ihnen entwickeltes Modell beschreiben, das "unregelmäßige Herzrhythmen, auch Arrhythmien genannt, anhand von EKG-Signalen besser diagnostizieren kann als ein Kardiologe". Andere Studien von Forschern der Stanford University haben einen Algorithmus namens CheXNeXt entwickelt, der Röntgenbilder in Sekundenschnelle auf 14 verschiedene Pathologien "liest". Wir sollten vor Freude Luftsprünge machen, denn das ist die Macht der KI in der Gesundheitsvorsorge: 14 verschiedene Krankheiten oder Herzrhythmusstörungen innerhalb von Sekunden mit KI zu erkennen, ist schlichtweg erstaunlich.

Wir sollten aber auch verstehen, dass der/die Algorithmus(s) ein Screening durchführte(n). Der Algorithmus hat keine klinische Behandlung durchgeführt oder eine Behandlung festgelegt. Ein Algorithmus hat keine Vorstellung davon, wer ein Patient ist. Er hat keine Vorstellung davon, was es bedeutet, ein Mensch zu sein, abgesehen von einer Ansammlung von Linien und Formen, Einsen und Nullen - was verlangen wir also als Nächstes vom Algorithmus? Die KI wird nicht auf die Idee kommen, den Patienten zu fragen, ob diese Krankheit oder dieser Zustand mit einer Wucherung an seinem Hals zusammenhängt, z. B. trockene Haut aufgrund einer Schilddrüsenunterfunktion. Weiß der Algorithmus, dass der Patient ein falsches Gleichgewicht der Elektrolyte (wie Natrium oder Kalium) hat? Sieht er, dass der Patient nach einer Herzoperation heilt? Es gibt so viele Fragen, die ein Arzt stellen und über den Algorithmus hinaus wissen muss. Es ist großartig, dass CheXNeXt in den Sekunden, die du brauchst, um diesen Satz zu lesen, 14 Krankheiten genauso gut erkennen kann wie ein Radiologe, aber das macht es zu einem großartigen Werkzeug, das die klinische Versorgung ergänzt, nicht zu einem Ersatz für Ärzte.

KI hat einen unendlichen Informationshorizont. Es gibt mehrere Berührungspunkte, an denen KI Reibungsverluste im System beseitigen und das Gesundheitserlebnis personalisieren kann. Denk zum Beispiel an den Einsatz von KI bei der Triage in der Notaufnahme. KI-unterstützte Notaufnahmen könnten die Wartezeiten für Patienten drastisch verkürzen, wenn die KI mit hoher Wahrscheinlichkeit einen Krankheitszustand identifiziert hat, der Aufmerksamkeit erfordert. Das Ziel sollte weniger darin bestehen, Ärzte und Ärztinnen durch KI zu ersetzen, sondern vielmehr darin, Ärzten und Ärztinnen dabei zu helfen, mehr Zeit für die Versorgung ihrer Patienten und Patientinnen aufzuwenden als für administrative Aufgaben oder intensive Beurteilungsszenarien. KI ist da, um zu helfen.

Oft wird im Zusammenhang mit KI von Mensch gegen Maschine gesprochen, und das ist sehr konstruktiv, aber es gibt viele Anwendungsfälle und Studien, in denen KI wirklich die Form verändert. Das klinische Programm, das das van der Schaar Lab an der University of Cambridge mit AutoPrognosis und Clairvoyance entwickelt hat, zeigt, was möglich ist. Es gibt noch weitere Hindernisse, denn Kliniker/innen werden nicht parallel zur KI ausgebildet, und die Informationssysteme im Gesundheitswesen sind oft veraltet. Das ist jedoch kein Manko der KI.

Bei der Umgestaltung des Gesundheitswesens durch KI geht es nicht darum, Patienten zu versorgen, und das ist der Mythos über KI im Gesundheitswesen. Oder um es konkret zu formulieren: KI kann die Blutung eines Patienten nicht stoppen; wir brauchen Ärzte und Ärztinnen. Es besteht kein Zweifel daran, dass KI einige Dinge besser kann als Ärzte, solange diese Dinge gut definiert, klar erklärbar und reproduzierbar sind. Problematisch wird es, wenn eine dieser Voraussetzungen fehlschlägt.

Die transformative Fähigkeit der KI wird bessere Werkzeuge für Kliniker und bessere Werkzeuge für Verbraucher bedeuten, die den unterversorgten Menschen mehr lebenswichtige Gesundheitsdienstleistungen ermöglichen. Innovatoren werden KI nutzen, um etablierte Geschäftsmodelle zu stören und das Gesundheitssystem besser funktionieren zu lassen, während sie gleichzeitig bessere Werkzeuge für die Anbieter bereitstellen.

Wir können uns Aufgaben herauspicken, die Computer und KI schneller oder besser erledigen, aber die Realität ist, dass Computer und KI in der heutigen Zeit wenig dazu beigetragen haben, dass Ärztinnen und Ärzte bessere Entscheidungen treffen können, und genau da muss KI ansetzen. Die Vorstellung, dass KI das Leben von Ärztinnen und Ärzten vereinfacht, indem sie Aufgaben in kürzerer Zeit erledigt, ist oft zu simpel. KI muss unsichtbar sein und dennoch zum Zeitpunkt der Behandlung zur Verfügung stehen - sie darf nicht nur schreiben, sondern muss dem Arzt tatsächlich assistieren und so zu einer besseren Versorgung des Patienten beitragen.

Mythos: KI-Systeme lernen aus Daten

KI-Systeme in der Produktion lernen von Menschen, nicht von Daten. Modelle für maschinelles Lernen lernen von Daten. Menschen sammeln mehr Daten, wenn ein Modell nicht die richtige Antwort weiß oder liefert oder auf bestimmte Bedingungen oder Eingaben nicht angemessen reagiert. Oft werden menschliche Kommentatoren hinzugezogen. Sie trainieren das Modell neu, um seine Wissensbasis zu erweitern und das Vertrauen in das Modell zu erhöhen. Menschen müssen die Daten kommentieren, beschriften und regelmäßig überprüfen. Damit KI-Modelle in der Produktion richtig funktionieren, muss der Mensch mit einbezogen werden. Das gilt vor allem im Gesundheitswesen, wo Menschen dafür sorgen müssen, dass die Daten von Verzerrungen befreit werden und dass die richtigen Merkmale hervorgehoben und in den neuronalen Netzen richtig gewichtet werden. Ohne menschliche Aufsicht können Modelle abdriften, wenn sich die realen Daten im Laufe der Zeit ändern. Die prädiktive Modellierung lernt aus historischen Daten und nutzt das Modell, um Vorhersagen für neue Daten zu treffen, bei denen die Antwort noch nicht bekannt ist. Im Gesundheitswesen wissen oft nur die Ärzte, dass Datenänderungen berücksichtigt und das Modell neu trainiert werden muss.

Mythos: KI ist eine Black Box

Es gibt einen Mythos, der KI als eine Blackbox beschreibt. Blackboxen werden als unvorteilhaft angesehen, weil sie implizieren, dass wir nicht wissen, wie sie funktionieren. Wie können wir von Medizinern und Ärzten erwarten, dass sie Dinge benutzen, die sie nicht vollständig verstehen? Das mag übertrieben sein, aber Ärzte und Ärztinnen benutzen verschiedene medizinische Geräte (z. B. Stethoskope und Blutdruckmessgeräte) und wissen nicht, wie sie funktionieren, d. h., sie sind Blackboxes. Aber Ärzte und Ärztinnen wissen, wie sie diese medizinischen Geräte benutzen, und vor allem vertrauen sie ihnen, wenn sie diese Geräte benutzen. Es geht also nicht um eine Blackbox, sondern darum, zu erklären, wie Software oder KI zu ihren Schlussfolgerungen, Vorhersagen oder Ergebnissen kommt und ob die Ärztinnen und Ärzte diesen Ergebnissen vertrauen können.

Ein weiterer Teil des Mythos ist, dass die tiefen neuronalen Netzwerke des maschinellen Lernens undurchsichtig sind und nur wenige Hinweise darauf geben, wie sie zu ihren Schlussfolgerungen kommen. Diese Vorstellung, dass die KI-Technologie selbst für die talentiertesten KI-Ingenieure unbeschreiblich ist, ist falsch. Es gibt viele Methoden, die die Interpretierbarkeit von KI-Ergebnissen ermöglichen. Algorithmen oder neuronale Netze sind weitgehend deterministisch; sie unterliegen den Naturgesetzen und sind daher beschreibbar und wiederholbar. Das Black-Box-Problem besteht darin, dass einige KI-Lösungen nicht beschrieben werden, nicht dass sie nicht beschrieben werden können. Wir wollen jedoch nicht verschweigen, dass es schwierig ist, tiefe neuronale Netze zu verstehen. Trotzdem kann man Zufälligkeiten in maschinelle Lernmodelle einbauen.

Stochastisch bezieht sich bei Algorithmen für maschinelles Lernen auf das Verhalten und die Leistung solcher Modelle, bei denen ein gewisses Maß an Zufälligkeit und Ungewissheit in den Ergebnissen enthalten ist - stochastisch ist ein Synonym für probabilistisch und zufällig. Ein maschinelles Lernmodell ist zum Beispiel stochastisch, wenn es Entscheidungen auf der Grundlage von Zufallszahlengeneratoren trifft, um die Daten zu mischen. Algorithmen sind also deterministisch, wenn sie keine stochastischen Komponenten enthalten. Die Diskussion über KI als Blackbox ist nuanciert, denn KI kann eine Blackbox sein, aber in vielen Fällen können wir die Blackbox öffnen.

Erklärbare KI und Blackbox-KI sind zwei unterschiedliche Konzepte, und wir stehen vor der Herausforderung einer erklärbaren KI. Das heißt, Kliniker und Gesundheitsdienstleister brauchen erklärbare und verständliche KI. Erklärbare KI ermöglicht es den Nutzern von KI, sowohl den Algorithmus als auch die verwendeten Eingaben (oder Parameter) zu verstehen. Die Zielgruppe, die Nutzer, sollte die Ergebnisse und das Warum von KI-Systemen verstehen. Kliniker müssen den KI-Tools und -Systemen, die sie einsetzen, vertrauen. Die Herausforderung einer erklärbaren KI bedeutet nicht, dass KI eine Blackbox ist, sondern dass wir KI-Systeme für ihre Nutzer und Konsumenten erklärbar und verständlich machen müssen.

Der Blackbox-Mythos wird oft diskutiert, aber über die Blackboxen, die keine KI sind, wie z.B. die Systeme zur Bearbeitung von Anträgen, wird wenig oder gar nicht gesprochen. Wie viele Nutzer von Antragsbearbeitungssystemen wissen, wie sie funktionieren? Wir kennen die erwarteten Inputs und Outputs, aber wir kennen auch die von KI-Systemen. Wir wissen, dass die bestehenden Systeme zur Bearbeitung von Ansprüchen nur minimal erklärbar sind. Wenn das der Fall wäre, warum telefonieren Anbieter und andere ständig mit den Call Centern der Versicherungen und stellen die einfachsten Fragen, wie z. B. "Warum wurde mein Anspruch abgelehnt? Warum kann der Sachbearbeiter die Frage nach der Ablehnung nicht konsequent und schnell beantworten? Warum erklären die Leistungssysteme nicht klar, warum ein Antrag, der ein solches System durchläuft, abgelehnt wird? Ein Grund dafür ist, dass Ingenieure oft Systeme ohne erklärbare Lösungen bauen, sowohl bei KI als auch bei Nicht-KI-Programmen. In früheren Computerzeitaltern und heute, wo es um Benutzerfreundlichkeit und nutzerzentriertes Design geht, ist die Erklärbarkeit normalerweise kein wichtiger Faktor bei der Entwicklung von Computersystemen. Dennoch muss sie es sein, und das gilt umso mehr für KI-Systeme. Es liegt auf der Hand, dass diagnose- und behandlungsorientierte Modelle erklärungsbedürftiger sind als verwaltungstechnische Modelle, z. B. zur Bearbeitung von Anträgen.

Mythos: KI ist dem Gehirn nachempfunden

Es ist ein Mythos, dass KI lose dem menschlichen Gehirn nachempfunden ist. KI wird von den Fähigkeiten des menschlichen Gehirns inspiriert, ist aber nicht dem Gehirn nachempfunden - das wäre auch gar nicht möglich, weil wir so wenig darüber wissen, wie das Gehirn funktioniert. Dr. Thomas Insel, der ehemalige Direktor des National Institute of Mental Health, hielt einen Vortrag darüber, wie viel wir über das menschliche Gehirn wissen. Er erklärte es folgendermaßen: "In den 1970er Jahren wussten wir ziemlich genau, wie die Niere als Filter dient, wie das Herz als Pumpe, was die Lunge macht ... aber heute, im Jahr 2015, kann ich dir nicht sagen - und auch sonst niemand - wie das Gehirn als informationsverarbeitendes Organ funktioniert." Der amerikanische Neurowissenschaftler Sebastian Seung schreibt in seinem Buch Connectome: How the Brain's Wiring Makes Us Who We Are (Mariner Books), schreibt wortgewaltig darüber, wie ungeheuer unbekannt das menschliche Gehirn ist. Er beschreibt das Gehirn als einen Wald, der aus 100 Milliarden Samen wächst, in den keine Straße eindringen kann. Als Organ, schreibt Seung, bleibt das Gehirn ein Rätsel.

Bedenke, dass neuronale Netze - anders als das menschliche Gehirn - mit großen Datenmengen "trainiert" werden müssen. Der Algorithmus oder das neuronale Netzwerk erzeugt eine Ausgabe, eine Entscheidung oder Vorhersage, die sich auf die Frage bezieht, für die das Modell entwickelt wurde. Wer in dieser Population könnte in den nächsten 24 Monaten an Diabetes erkranken? Ist dieser Tumor krebsartig? Oft wird dieser Prozess als anthropomorphes Merkmal beschrieben: Maschinelles Lernen oder KI haben "gelernt". So lernt der Mensch aber nicht - wir brauchen keine riesigen Mengen an markierten Daten, um eine Katze von einem Muffin zu unterscheiden. Wir sind nicht wie ein neuronales Netzwerk, das mathematisch basierte Algorithmen verwendet, Muster erkennt und schließlich eine Vorhersage macht. Du kannst ein neuronales Netzwerk hacken, indem du das Gesichtsbild veränderst, indem du die Nase unter den Mund schiebst, wie in unserem vorherigen Beispiel.

Aber vielleicht hätte dieses Gespräch mit der Frage beginnen sollen, was keine KI ist?

KI-gestütztes Gesundheitswesen

Die Industrie und die Unternehmen haben große Erwartungen an KI, basierend auf dem, was wir heute wissen und was wir für zukünftige Innovationen erwarten. Für viele Unternehmen werden diese Erwartungen nicht erfüllt werden, weil die Hauptakteure, die die Geldgeber kontrollieren, den disruptiven Charakter von KI unterschätzen werden, so wie andere Führungskräfte zuvor, die die Auswirkungen des Internets unterschätzt haben. Nur ist es diesmal anders, denn KI wird viel mehr verändern als das Internet und vielleicht mehr als jede andere Computertechnologie, die wir je erlebt haben.

Die Vision, die Unternehmen und die Industrie für KI haben, kann jedoch nicht mit einem Algorithmus oder einem maschinellen Lernmodell auf einmal erreicht werden; um sie zu erreichen, ist eine völlig neue Denkweise darüber erforderlich, was KI ist und was nicht. Es sollte kein Zweifel daran bestehen, dass die Zukunft für Unternehmen, die großartige Erlebnisse und Produkte schaffen wollen, im KI-First-Denken liegt. KI-First-Denken spiegelt wider, was Sundar Pichai, CEO von Google, auf der Entwicklerkonferenz Google I/O 2017 sagte: "Das Computing entwickelt sich weiter... es verschiebt sich von einem Mobile-First- zu einem AI-First-Ansatz.... In einer KI-zentrierten Welt überdenken wir alle unsere Produkte und wenden maschinelles Lernen und KI an, um Nutzerprobleme zu lösen."

KI-First für das Gesundheitswesen bedeutet, eine Richtung und Strategie für KI zu finden, die über maschinelles Lernen hinausgeht. Eine branchenweit einheitliche Definition von KI gibt es nicht, und sie ist auch nicht notwendig, um eine KI-First-Agenda für das Gesundheitswesen voranzutreiben. Unternehmen ohne eine KI-Strategie arbeiten wie eine Maschine, die bergab rollt, ohne Richtung, ohne Ziele, ohne Pläne, wie sie KI nutzen können, um ihr Geschäft zu verbessern, tolle Erfahrungen zu machen, die Digitalisierung voranzutreiben oder ihre Produkte zu verbessern.

Nachdem wir nun wissen, was KI ist und was nicht, werden wir untersuchen, was KI-First Healthcare für Ärzte, Patienten, Anbieter und Unternehmen im Gesundheitswesen bedeutet. In den nächsten Kapiteln werden wir die KI-First-Gesundheitspflege erkunden, indem wir beschreiben, wie der Einsatz von KI einen Unterschied macht. Wir werden verschiedene Themen untersuchen, darunter die folgenden:

Menschenzentrierte KI verstehen - was sie ist und wie man sie umsetzt
Einsatz von KI-Technologien zur Entwicklung besserer Produkte und besserer Erfahrungen für Patienten und Kliniker
Bessere Patientenversorgung zu Hause, unterwegs und bei den Anbietern, ermöglicht durch KI-First-Denken im Gesundheitswesen
Verringerung der Verschwendung im Gesundheitssystem, was ein Umdenken in der Gesundheitsversorgung erfordert
Aufbau eines KI-First-Ansatzes und einer KI-First-Strategie, unabhängig davon, ob es sich um eine kleine oder eine große Organisation handelt, was der Schlüssel dazu ist, KI-First im Gesundheitswesen Realität werden zu lassen

Das KI-erste Gesundheitswesen ist nicht gleichbedeutend mit einem KI-ersten Unternehmen. KI-First ist keine technologische Aussage. Es bedeutet nicht, dass etablierte Unternehmen im Gesundheitswesen mit Technologieunternehmen konkurrieren. Es bedeutet, dass man darüber nachdenkt, ob die Anwendung von KI in irgendeiner ihrer Facetten einen Unterschied in der Patientenreise, in der Patientenerfahrung, in der Patientenversorgung machen würde. Oder wir können uns die Gesundheitsversorgung auf der Intensivstation, zu Hause oder anderswo neu vorstellen, indem wir KI in Umgebungen oder intelligente Objekte einbauen. KI-First bedeutet, einen Wandel im Denken und in der Kultur herbeizuführen, damit wir im Gesundheitswesen konsequent intelligente Systeme und Produkte entwickeln. Unternehmen des Gesundheitswesens sollten die gleichen fantastischen Erlebnisse schaffen wie konsumorientierte Unternehmen. Viele, wenn nicht sogar alle konsumorientierten Unternehmen wie Netflix, Amazon und Uber nutzen KI, um ihre Kunden zu verstehen und unvergessliche Momente und Erlebnisse zu schaffen - Gesundheitsunternehmen sollten die gleiche Vision haben. AI-First ist, wenn überhaupt, eine Aufforderung zum Handeln.

KI-First für Unternehmen im Gesundheitswesen bedeutet, ein interdisziplinäres Team auf allen Ebenen (Führungskräfte, Programmmanager, Ingenieure, Gesundheitsexperten) und eine KI-Mentalität zu fördern, um wichtige Probleme im Gesundheitswesen zu lösen. Es erfordert, dass ein Geschäftsbereich und das Unternehmen insgesamt eine KI-Strategie haben, die definiert, was KI für sie bedeutet und wie sie sie nutzen wollen. Die KI-Strategie kann Teil einer größeren Strategie des Geschäftsbereichs sein.

Um zu verstehen, wie wir das Gesundheitswesen verändern können, müssen wir uns fragen, welche aktuellen Trends und Innovationen im Bereich KI wir erforschen und nutzen sollten. Wo muss sich das Gesundheitswesen weiterentwickeln, und wo können wir es neu gestalten? Aus der Perspektive der Softwareentwicklung bedeutet KI einen bedeutenden Wandel. Die Förderung einer KI-Mentalität verändert die Art und Weise, wie wir über Produkte und Softwareentwicklung denken, zum Besseren. In unserem nächsten Kapitel beginnen wir diese Reise mit dem Fokus auf menschenzentrierte KI.

¹ Erik Drysdale at al., "Implementing AI in Healthcare" (Whitepaper, Vector-SickKids Health AI Deployment Symposium, Toronto, ON, 30. Oktober 2019).

² Sara Heath, "Patient Recall Sufferers as Patients Remember Half of Health Info", PatientEngagementHIT, 26. März 2018.

³ Adam Santoro et al., "A Simple Neural Network Module for Relational Reasoning", DeepMind, Juni 2017.

⁴ US-Verkehrsministerium, NHTSA, "Automated Vehicles for Safety", n.d.

⁵ Matthew Sadler und Natasha Regan, Game Changer: AlphaZero's Groundbreaking Chess Strategies and the Promise of AI (Alkamaar, Niederlande: New in Chess, 2019).

⁶ Bahman Zohuri und Masoud Moghaddam, "Deep Learning Limitations and Flaws", Modern Approaches on Material Science 2, no. 3 (2020): 241-250.

⁷ Timothy F. Bresnahan und Manuel Trajtenberg, "General Purpose Technologies 'Engines of Growth'?", National Bureau of Economic Research (NBER), August 1992.

⁸ "State Sues Maker of Plavix for Misleading Marketing in Hawaii", Hawaii News Now, 19. März 2014.

⁹ Alyssa T. Watanabe et al., "Improved Cancer Detection Using Artificial Intelligence: A Retrospective Evaluation of Missed Cancers on Mammography", Journal of Digital Imaging 32, no. 4 (August 2019): 625-637.

¹⁰ James E. Bailey, "Does Health Information Technology Dehumanize Health Care?", Virtual Mentor 13, no. 3 (2011): 181-185.

¹¹ Xiangyi Kong et al., "Artificial intelligence: a key to relieve China's insufficient and unequally-distributed medical resources", American Journal of Translational Research 11, no. 5 (2019): 2632-2640.

¹² Lily H. Kim et al., "Expenditures and Health Care Utilization Among Adults with Newly Diagnosed Low Back and Lower Extremity Pain", JAMA Network Open 2, no. 5 (2019); James D. Owens et al., "Impacts of Adherence to Evidence-Based Medicine Guidelines for the Management of Acute Low Back Pain on Costs of Worker's Compensation Claims", Journal of Occupational and Environmental Medicine 61, no. 6 (2019): 445-452.

¹³ "Orion Health Unveils New Predictive Intelligence Using Machine Learning to Help Save Billions in Healthcare Costs", The Journal of Precision Medicine, März 7, 2018.

¹⁴ "Future AI Opportunities for Improving Care Delivery, Cost, and Efficacy", HealthITAnalytics, 29. Juli 2019.

¹⁵ Gary Marcus und Ernest Davis, "GPT-3, Bloviator: OpenAI's Language Generator Has No Idea What It's Talking About", MIT Technology Review, August 22, 2020.

¹⁶ Siehe den Artikel von Sam Daley, "32 Examples of AI in Healthcare That Will Make You Feel Better About the Future", Built In, 4. Juli 2019.

¹⁷ Cameron Martin, "'Jeopardy!' Mensch gegen Maschine: Für wen (oder was) sollst du die Daumen drücken?", The Atlantic, 14. Februar 2011.

Get KI-gestütztes Gesundheitswesen now with the O’Reilly learning platform.

O’Reilly members experience books, live events, courses curated by job role, and more from O’Reilly and nearly 200 top publishers.