Künstliche Intelligenz in der Medizin und den Lebenswissenschaften

Veröffentlicht am 15.06.2021

Präambel

Während Künstliche Intelligenz (KI) der Wissenschaft viele neue Möglichkeiten eröffnet, wird der Begriff insbesondere in populärwissenschaftlichen Abhandlungen häufig unvollständig und falsch verwendet und zudem in falsche Zusammenhänge gebracht oder sogar dämonisiert. Anwendungen von KI in der Entschlüsselung von Genomsequenzen bei Tumorerkrankungen, der Faltung von Proteinen, aber auch bei der Beurteilung von Röntgenbilder beeinflussen schon heute unser Leben positiv. Dennoch wird KI in vielen der derzeitigen populärwissenschaftlichen Bestsellern wie zum Beispiel „Künstliche Intelligenz und der Sinn des Lebens“ von R.D. Precht [1] in falsche Zusammenhänge gebracht. Von solchen Berichten möchte ich mich entschieden distanzieren. Auch die Elektrizität, die Eisenbahn oder die Chemie wurden in der Menschheitsgeschichte bereits missbraucht. Aber auch diese Errungenschaften, die wie jede Technologie im Positiven wie im Negativen vom Menschen genutzt werden können, haben überwiegend positiven Einfluss auf die Menschheit gehabt. Fortschritte einseitig negativ zu betrachten unterstützt uns nicht dabei, die Welt besser zu machen. Wer sich mit Fakten auseinandersetzen möchte, dem empfehle ich das Buch „Factfulness“ von H. Rosling [2] . Der Menschheit geht es besser als je zuvor, auch wenn noch größere Herausforderungen vor uns liegen. Wer sich mit den Entwicklungen von KI in USA und China auseinandersetzen möchte, der möge „AI Super-Powers“ von K.-F. Lee lesen [3] . KI durchdringt bereits unser Leben. Die zentrale Frage, die wir uns stellen müssen, ist, wie wir eine auf europäischen Werten aufbauende KI entwickeln.

Einleitung

Die eine künstliche Intelligenz gibt es nicht. Das liegt schon daran, dass wir bis heute nicht genau verstehen, was menschliche Intelligenz ist. Durch großartige Fortschritte in den Neurowissenschaften wird die enorme Komplexität des menschlichen Gehirns immer deutlicher [4] . Eine Annäherung an eine Definition würde besagen, dass die Gesamtheit aller menschlichen kognitiven Fähigkeiten, die zur Lösung eines logischen, sprachlichen, mathematischen oder sinnorientierten Problems beitragen, zur menschlichen Intelligenz beitragen [5] . Gleichzeitig wird aber auch klar, dass wir weit davon entfernt sind, die Komplexität der menschlichen Intelligenz zu verstehen. Sicher ist auch, dass es nicht die eine menschliche Intelligenz gibt, sondern dass es sich hier um ein Netzwerk von Einzelkomponenten handelt, die dynamisch miteinander verknüpfbar sind. Dies erklärt auch, warum die bereits vor Jahrzehnten gemachten Aussagen einflussreicher KI-Forscher*innen zum Entstehen übermenschlicher KI (auch „Super-KI“ oder technische Singularität genannt) aus heutiger Sicht fast romantisch wirken und deutlich in den Bereich von Science-Fiction verwiesen werden müssen. Es ist nicht so erstaunlich, dass Begriffe wie technologische Singularität, Transhumanismus oder Posthumanismus von Computerpionieren wie Raymond Kurzweil [6]  und anderen geprägt werden, die – so vermute ich es – von Neurobiologie wenig Verständnis haben und deshalb die herausragende Leistungsfähigkeit des menschlichen Gehirns immer unterschätzt haben. Computer können sicherlich umfangreichere Rechenleistungen erbringen als das menschliche Gehirn, solange es sich um klar definierte und logische Probleme handelt. Sobald aber sinnorientierte oder gar moralische Probleme gelöst werden müssen, können KI und Computer keine Lösungen anbieten.

Betrachtet man nur eine einfache Kennzahl wie den Energieaufwand, so wird schnell klar, wie weit wir von einer solchen computer-basierten Super-KI entfernt sind: Der Stromverbrauch des Gehirns liegt in der Größenordnung von 10-20 Watt für ca. 1 Teraflop (1 Billionen) Rechenoperationen pro Sekunde, der ungefähren Rechenleistung des menschlichen Gehirns. Dabei werden so unterschiedliche Dinge wie die Bewegung eines Armes, die Beobachtung eines vorbeifahrenden Autos, oder der Gedanke an Kant parallel verarbeitet. Bei den besten und sparsamsten Supercomputer und gleicher Rechenleistung (basierend auf CPUs und Beschleunigern) liegt der Stromverbrauch in der Größenordnung von 12 Megawatt! Damit könnten mehr als 30.000 Eigenheime mit Strom versorgt werden! Aber selbst bei diesem Stromverbrauch können diese Supercomputer in der Regel nur sehr begrenzte Modelle rechnen – dies zwar enorm schnell, aber eben sehr einsilbig. Das menschliche Gehirn ist also nicht nur tausendfach energie-effizienter als heutige Computer, sondern auch um ein Vielfaches flexibler! Auch die Entwicklung sogenannter Universal-Algorithmen, wie zum Beispiel MuZero der Google Tochterfirma Deepmind [7] , haben – anders als von den Entwickler*innen solcher Algorithmen behauptet – kein eigenes Verständnis, wie und vor allem warum die Welt so funktioniert wie wir sie vorfinden. Diese Algorithmen werden auf bestehende Strukturen, z.B. ein Brettspiel wie GO, angewandt. Jedoch werden hier im Gegensatz zu herkömmlichen Algorithmen die Regeln nicht mehr vorgegeben, sondern der Algorithmus muss diese ebenso erarbeiten wie die besten und schnellsten Lösungen für das Problem. Die Wortwahl der Autoren, dass es sich dabei um eine superhumane Leistung handelt, bezieht sich dabei im Wesentlichen auf die Geschwindigkeit der Aufgabenlösung, Regeln zu finden und große Datenmengen auf Muster zu durchsuchen. Auch ein Mensch wäre vermutlich in der Lage, aus der Beobachtung von GO Partien, die Regeln abzuleiten, er bräuchte dafür nur deutlich länger. Was der Mensch aber jederzeit könnte, wäre aus der Erfahrung solcher Spielregeln ein völlig neues Spiel mit neuen Regeln zu entwickeln, also kreativ zu denken – im Gegensatz zu Universal-Algorithmen, die bisher eine solche Ableitung nicht leisten. Solche Algorithmen können also das Wie von bestehenden Regeln erarbeiten, aber nicht das Warum. Noch weniger können solche Algorithmen daraus kreativ neue Spiele mit neuen Regeln entwickeln oder sich über die gestellte Aufgabe hinaus weitere Fragen stellen. Damit muss diesen Algorithmen ein menschenähnliches Verständnis der Wirklichkeit abgesprochen werden, anders als es die Autor*innen behaupten.

Wir sind zurzeit sehr weit entfernt von einer technischen KI, die die Gesamtheit der menschlichen Intelligenz überflügeln könnte. Deshalb sind Szenarien zu solch einer KI im Kontext unserer augenblicklichen Entwicklungen und Krisen auf der Welt nichts anderes als Fiktion. Von was aber reden wir dann, wenn es heute um KI geht? Hier möchte ich zunächst mit wichtigen Definitionen zur KI fortfahren.

Definition von starker und schwacher künstlicher Intelligenz

Zunächst gilt für alle Disziplinen einschließlich der Medizin und den Lebenswissenschaften, dass zwischen starker und schwacher KI unterschieden werden muss. Bei der starken KI würde es sich um eine KI handeln, die der Komplexität der menschlichen Intelligenz ebenbürtig wäre, sich aber z.B. durch höhere Geschwindigkeit auszeichnen würde, und damit der menschlichen Intelligenz überlegen wäre. Starke KI wäre autonom und flexibel. Aus meiner Sicht, aber auch gestützt auf viele Erkenntnisse aus den Neuro- sowie den Computerwissenschaften, können wir die Existenz einer starken KI derzeit einfach ausschließen. Selbst die Entwicklung einer starken KI mit den heutigen Mitteln, mit Computern, die nicht im Entferntesten in der Lage sind, komplexe Prozesse zu erledigen, die das menschliche Gehirn jede Sekunde mit geringstem Energieaufwand erledigen kann, ist außerhalb unserer Reichweite. Deshalb werde ich mich mit diesem unrealistischen Thema für den Rest dieser Abhandlung nicht beschäftigen.

Schwache KI in der Medizin und in den Lebenswissenschaften

Das Gegenstück zur starken KI ist die sogenannte schwache KI [8] . Hier handelt es sich um Rechenverfahren (Algorithmen), bei denen Prinzipien der Biologie, insbesondere neuronale Netzwerke, Verwendung finden, um in möglichst großen, komplexen und für das menschliche Gehirn nicht mehr fassbaren Datenmengen Muster zu erkennen. Schwache KI ist in der Regel reaktiv, vom Menschen werden die Rahmenbedingungen vorgegeben. Sowohl die Daten, die Algorithmen, die Muster und die Schlüsse, die aus den Mustern gezogen werden, sind mannigfaltig. Ein erstes wichtiges Merkmal schwacher KI ist es, dass in der Regel nur eine einzige Aufgabe mit einem solchen Rechenvorgang gelöst werden kann. Zum Beispiel kann ein Algorithmus nach den Prinzipien neuronaler Netzwerke darauf trainiert werden, die Anzeichen von Lungenentzündungen in einem computertomographischen (CT) Bild zu erkennen [9] . Der Algorithmus wird aber aufgrund dieses Trainings erst einmal nicht in der Lage sein, Tumore in der Lunge zu identifizieren, geschweige denn CT-Bilder anderer Organe zu beurteilen. Solche KI-Lösungen stellen zunächst Insellösungen für klar definierte Aufgaben dar, was auch für die oben eingeführten Universalalgorithmen gilt. Lösungen einer KI-Aufgabe haben in der Regel keinen Einfluss auf die Performanz anderer KI-Lösungen mit anderen Aufgabenstellungen. Um in dem Beispiel der CT-Bilder zu bleiben, ist es sicherlich möglich, unterschiedliche Aufgaben zu verknüpfen. So können Algorithmen darauf trainiert werden, Lungenentzündungen und Lungentumoren in CT-Bildern der Lunge zu identifizieren. Immer noch handelt es sich aber um zwei getrennte Fragestellungen, die technisch gesehen auch getrennt erledigt werden. Lediglich bei der Bereitstellung des Ergebnisses wird dem Nutzer für beide Fragestellungen eine Antwort gegeben, also in diesem Fall würde das Ergebnis zum Beispiel heißen, es liegt ein Lungentumor vor, aber keine Lungenentzündung. Dabei ist weiterhin wichtig festzustellen, dass der Anteil eines anscheinend kombinierten Algorithmus, der sich mit der Erkennung von Lungenentzündungen beschäftigt, unabhängig von der Leistung des Anteils des Algorithmus ist, der für die Erkennung von Lungentumoren genutzt wird. Anders ausgedrückt, die Fähigkeit Lungenentzündungen zu erkennen, hat keinen Einfluss auf die Fähigkeit Tumore zu erkennen. Es bleiben derzeit Insellösungen. In der Wissenschaft wird jedoch schon weiter gedacht, indem Algorithmen auf bereits vortrainierten Modellen aufbauen können; man spricht dann von sogenanntem Transferlernen [10]

KI-Lösungen in den Lebenswissenschaften und in der Medizin sind dort zu erwarten, wo viele Daten anfallen und wo Probleme bestehen, die eine besonders hohe Lösungsgeschwindigkeit benötigen oder mit herkömmlichen Methoden unendlich lange dauern würden. Eine der großen ungelösten Fragestellungen in den Lebenswissenschaften ist die dreidimensionale Struktur von Proteinen. Proteine sind große komplexe Moleküle, die aus Ketten von Aminosäuren bestehen, und praktisch in allen Funktionen des Lebens eine essenzielle Rolle spielen. Ihre Funktion ist weitgehend von ihrer dreidimensionalen Struktur abhängig, welche durch einen Faltungsprozess der Aminosäurenkette ermöglicht wird. In welche Formen sich Proteine falten ist weiterhin nur bedingt verstanden. Dieses auch als “Proteinfaltungsproblem” bezeichnete Problem stellt seit mehr als 50 Jahren eine große Herausforderung für die Lebenswissenschaften dar. Seit 1994 werden hier regelmäßig Wettbewerbe durchgeführt, die sogenannten Critical Assessment of Protein Structure Prediction (CASP), bei der wissenschaftliche Teams weltweit rechner-gestützte Lösungsansätze vorstellen können, die dieses Problem allgemeingültig für alle Proteine lösen sollen. Bis 2014 wurde in entsprechenden Referenztests lediglich Lösungen mit einer Genauigkeit beschrieben, die in etwa 40% der möglichen Genauigkeit erreichten. Im Jahr 2018 konnte mit Hilfe des KI-Algorithmus Alphafold die Genauigkeit auf fast 60% erhöht werden und 2020 erreichte eine optimierte Form von Alphafold (Alphafold2) eine Genauigkeit von mehr als 92% [11] . Dieser Durchbruch zeigte, welchen Einfluss KI auf wissenschaftliche Entdeckungen haben kann und welches Potenzial sie hat, den Fortschritt in einigen der grundlegendsten Bereiche, die unsere Welt erklären und gestalten, dramatisch zu beschleunigen. Viele der größten Herausforderungen der Welt, wie die Entwicklung von Therapien für Krankheiten oder die Suche nach Enzymen, die Industrieabfälle abbauen, sind grundlegend mit Proteinen und deren Funktionen verbunden.

In der Medizin werden ähnlich weitreichende Veränderungen durch KI-Lösungen vorhergesehen, wobei die Entwicklungen aufgrund mannigfaltiger Gründe noch nicht so weit fortgeschritten sind. Konzeptionell sollte es mit der Hilfe von KI möglich sein, die Entscheidungen von fast allen Ärzt*innen und die medizinischen Resultate von Milliarden von Patient*innen so nutzbar zu machen, dass sie in die Behandlung jedes*r zukünftigen Patienten*in einfließen [12] [13] . In anderen Worten, jede Diagnose, jede medizinische Entscheidung und jede Therapie würde auf der Grundlage aller bekannten medizinischen Informationen für eine*n Patienten*in in Echtzeit personalisiert werden, wobei die Erkenntnisse auf den kollektiven Informationen von KI-Lösungen beruhen würden. Selbstredend wäre KI die Technologie für die Bearbeitung dieser massiven Datenmengen, da diese das Fassungsvermögen des menschlichen Gehirns übersteigen. Dabei nehmen nicht nur klinisch gesammelte Daten in riesigen Datenbanken zu, sondern auch die medizinischen Parameter wachsen rasant, die für jeden einzelnen Patienten erhoben werden. Die Art der Daten reicht von medizinischen Notizen, die von Ärzt*innen eingegeben werden, über bildgebende Verfahren, kontinuierliche Überwachungsdaten von Sensoren (z.B. Langzeit-EKG), bis hin zu genomischen Daten, die für medizinisch relevante Vorhersagen genutzt werden können.

Für viele dieser Daten gibt es inzwischen Beispiele, wie sie mithilfe von KI genutzt werden können. Ohne Anspruch auf Vollständigkeit seien hier Beispiele aus einigen wichtigen medizinischen Bereichen erwähnt. In der Epidemiologie können gefährliche Erreger mit Hilfe von KI-Algorithmen aus Sequenzdaten von Patientenproben identifiziert werden. Die molekulargenetische Surveillance für SARS-CoV-2 wäre ein solches Beispiel [14] , die aber auch auf andere gefährliche Krankenhauserreger ausgeweitet werden könnte. Die Bestimmung von Risikofaktoren für schwere Erkrankungen, wie z.B. einen Herzinfarkt, kann mit Hilfe von KI-Algorithmen optimiert werden [15] . KI kann Ärzt*innen bei sprachbedingten Problemen der Verständigung mit Patient*innen unterstützen [16] . KI-Lösungen könnten auch dazu beitragen, medizinisch wichtige Informationen aus elektronischen Patientenakten zu extrahieren, um Patient*innen mit erhöhtem Risiko für bestimmte Erkrankungen schneller zu identifizieren und diesen frühzeitig Vorsorgeangebote oder Therapien anbieten zu können [17] . Standardisierte Analysen für bildgebenden Verfahren sind eine besonders intensiv erforschte Domäne für KI-Lösungen in der Medizin. Beispiele sind die automatisierte Diagnostik von Erkrankungen des Auges aufgrund der Betrachtung des Augenhintergrundes [18] , die Bewertung von computer-tomographischen Bildern zur Erkennung von Blutungen im Gehirn [19] oder die Bewertung der Bilder einer Darmspiegelung [20] . Wieder andere Bereiche sind KI-basierte Analysen von Daten, die z.B. durch Mobiltelefone, Smartwatches oder andere digitale Sensoren generiert werden können [21] . Die kontinuierliche Überwachung von Erkrankungen, bei denen aufgrund bestimmter Ereignisse, z.B. die Entgleisung eines Diabetes, eine akute Behandlung benötigt wird, stellen hier ein eindrückliches Beispiel dar [22] . Mittels KI-Lösungen könnten solche Ereignisse vorhergesagt werden und präventive oder therapeutische Maßnahmen frühzeitig eingeleitet werden.

Datensicherheit, die Einhaltung geltender Datenschutzregeln, die Vermeidung von Verzerrungen, die Berücksichtigung ethischer Grundlagen, und die kontinuierliche Überwachung der Anwendung von KI-Lösungen im medizinischen Alltag sind bei KI-Lösungen in der Medizin von besonderer Bedeutung [23] . Medizinischer Fortschritt bedarf einer kontinuierlichen Anpassung bestehender Verfahren. Dies gilt nicht nur für ärztliches Handeln, sondern erstreckt sich ebenso auf den Einsatz von KI-Lösungen. Wird der Verlauf einer Erkrankung durch eine neue Therapie positiv beeinflusst, müssten KI-Lösungen zur Vorhersage des Krankheitsverlauf entsprechend neu kalibriert werden, genauso wie sich das behandelnde Personal durch Literaturstudium über neue Therapien informieren würde und zukünftige Patient*innen entsprechend angepasst beraten würde.

Aus europäischer Sicht erscheint noch von besonderer Bedeutung, dass sich inzwischen wesentliche Anteile der Entwicklung und Anwendung von KI-Lösungen auf wenige große Datenmonopolisten in der Welt konzentrieren, die entweder in den USA (Google, Amazon, Facebook, Apple) oder in China (Alibaba, Baidu, Tencent) beheimatet sind. Hier könnte Europa den Anschluss verlieren, wenn nicht alternative Wege zum Einsatz von KI mit eigenen Schwerpunkten gefunden werden. Ein solcher Ansatz, der insbesondere für den medizinischen Bereich von Bedeutung werden könnte, ist das sogenannte Swarm Learning [24] . Wie bereits ausgeführt, profitiert KI insbesondere von großen Datenmengen. Da sich die koordinierte Datensammlung an einzelnen medizinischen Zentren nicht so einfach gestaltet, führte das in der Vergangenheit häufig zu sehr kleinen Studien mit verzerrten Ergebnissen. Eine Lösung dieses Problems, welche insbesondere von den großen Datenmonopolisten favorisiert wird, ist die Zentralisierung von Daten, das heißt die Zusammenführung von Daten in zentralen Datenspeichern, häufig auch als Cloud bezeichnet. Während die Akkumulierung von Daten für KI-Anwendungen zunächst einmal einen technischen Vorteil darstellt, haben solche Lösungen zahlreiche Nachteile. Die Daten müssen transferiert und dupliziert werden, was beides Datensicherheit und Datenschutz reduziert, und gleichzeitig zu höheren Energiekosten beiträgt. Außerdem bevorteilen diese Lösungen auch diejenigen, die die zentralen Daten verwahren. Eine Alternative dazu wurde in sogenannten föderierten KI-Lösungen gesehen [25] . Hier bleiben die Daten zwar in der Regel am Ursprungsort und auch die Berechnungen erfolgen vor Ort, aber noch immer entscheidet eine zentrale Instanz über die Orchestrierung dieser KI-Anwendungen. Auch diese Lösung widerspricht wesentlichen Anforderungen der Anwendung von KI in der Medizin.

Swarm Learning stellt hierzu eine echte Alternative dar. Hierbei wird durch neue Technologien zur Bildung von Netzwerken (Schwarm) gleichberechtigter Partner der völlige Verzicht auf jegliche zentrale Instanz (Staat oder KI-Unternehmen) ermöglicht. In demokratischer Weise werden dann KI-Lösungen entwickelt, angewandt und weiterentwickelt. Dies entspricht viel mehr auch der europäischen Idee des gleichberechtigten Miteinanders aller Partner. Das Deutsche Zentrum für Neurodegenerative Erkrankungen (DZNE) und Hewlett Packard Enterprise (HPE) haben diese neue Art der Anwendung von KI bereits erfolgreich im medizinischen Sektor zeigen können [26] . Solche Lösungen, die erstmalig in Europa zum Einsatz gekommen sind, stellen neue Wege dar, KI-Lösungen zu nutzen, die unseren europäischen Grundwerten entsprechen.

Digitalisierung und KI

In Bezug auf welche Lebensbereiche wird in Ihrem Fachgebiet KI diskutiert?

Vergleicht man die Medizin und die Lebenswissenschaften, so wird der Einfluss von KI auf unser Leben sicherlich stärker im Bereich Medizin diskutiert, da einer besseren Diagnostik, besseren Vorhersagen für Krankheitsverläufe, und besseren Abschätzungen von Therapieerfolgen durch KI große Hoffnung zugeschrieben wird [27] . Dem Einsatz von KI in der Medizin wird ein viel direkterer Einfluss auf die Gesellschaft zugesprochen. Während Wissenschaft und Technik sehr große Chancen für eine bessere Medizin und damit auch eine bessere Gesellschaft vorhersagen, werden gleichzeitig ethische, moralische und juristische Fragestellungen thematisiert, aus denen abgeleitet wird, dass KI keinen Nutzen für die Gesellschaft haben wird. Wie bei jeder neuen Technologie liegt auch hier die Wahrheit irgendwo dazwischen und bedarf noch besserer Aufklärung durch bessere Kommunikation zu diesem wichtigen Zukunftsthema [28] .

Obwohl der Bezug der Anwendung von KI in den Lebenswissenschaften häufig indirekt erscheint, wie das Beispiel zum Proteinfaltungsproblem zeigt, so sollte der umfassende Einfluss von KI in den Lebenswissenschaften nicht unterschätzt werden. Die Beschleunigung des Lösens fundamentaler Probleme in den Naturwissenschaften und den Lebenswissenschaften durch KI könnte plötzlich völlig neue Innovationszyklen auslösen. Wenn auch weniger konkret, werden diese Möglichkeiten sehr wohl in diesen Wissenschaften diskutiert.

Welche Veränderungen erwarten Sie in den nächsten Jahren?

Sofern wir berechtigte ethische, datenschutz-technische und sicherheitsrelevante Fragen durch technische Verbesserungen, wie zum Beispiel dem Swarm Learning, lösen können, gehe ich von einer sehr breiten Anwendung von KI-Lösungen in allen Bereichen der Medizin aus. Die Digitalisierung führt zur Verfügbarkeit strukturierter Daten, mit deren Hilfe KI in großem Maßstab in der Medizin anwendbar wird, insbesondere wenn man dezentralisierte KI-Lösungen technisch umsetzen kann. Dies wird zu einem deutlichen Umdenken in der Medizin führen, da viele der heutigen ärztlichen Routineaufgaben in Zukunft von KI-Algorithmen unterstützt werden können und so – im besten Fall – den Ärzt*innen wieder mehr Zeit für die eigentlichen Entscheidungsprozesse (zum Beispiel welche Therapie soll angewandt werden) und eine Zuwendung zur*m Patienten*in erlauben werden, was wiederum die Rolle ärztlicher Intuition und Berufserfahrung nicht mindert, sondern stärken wird. Für Patient*innen sollte sich daraus eine bessere Medizin ergeben. Eine entscheidende Voraussetzung für ein positives Zukunftsbild ist, dass unsere Gesellschaft wesentlich vorsichtiger eigene Daten an Datenmonopolisten (Google, Apple, Facebook) abtritt, dafür aber sinnvollen KI-Lösungen zum Beispiel im medizinischen Bereich offener gegenübersteht (Stichwort Corona-App). In Anbetracht des leichtfertigen Verhaltens mit persönlichen Daten muss eine Diskussion über Sinnhaftigkeit von Datenschutz im Hinblick auf möglichen Gesundheitsschutz geführt werden. Nur dann werden wir langfristig von KI-Lösungen als Gesellschaft profitieren können. Gleiches gilt genauso für KI-Lösungen, die in den Lebenswissenschaften zur Anwendung kommen, auch wenn viele dieser Anwendungen häufig erst indirekt zu Veränderungen gesellschaftlicher Lebensbereich führen.

Welche Folgen sind für die Bürger*innen zu erwarten?

So wie vorherige Technologien (Elektrizität, Chemie, Eisenbahn) wird auch KI einen gesellschaftlichen Wandel induzieren. Entscheidend für die Einschätzung der Folgen wird die Schaffung der Voraussetzungen für KI-Lösungen sein, die eine Datenmonopolisierung unterbinden, Datenschutz und Datensicherheit als höchstes Gut garantieren, KI-Anwendungen nur unter demokratischen Bedingungen erlauben, und Mechanismen zur Erkennung von Verzerrungen als zwingenden Bestandteil jeglicher KI-Lösung festschreiben [29] . Sollte dies gelingen, so werden KI-Anwendungen in der Medizin und den Lebenswissenschaften dazu beitragen, unser Leben weiter zu verbessern und auch zum Erhalt unserer Ökosysteme beitragen. In diesem Szenario ist der Einsatz von KI im Wesentlichen darauf ausgelegt, heutige Limitationen – seien sie menschlicher oder technischer Natur – zu überwinden. Werden die oben genannten Voraussetzungen aber nicht erzielt oder wird KI zum Machterhalt oder zum Machtgewinn eingesetzt, dann ergeben sich völlig andere Folgen, die den freiheitlichen und demokratischen Ansprüchen unserer Gesellschaft nicht gerecht würden.

Kompetenzen und KI in der Medizin und den Lebenswissenschaften

Inwiefern werden in Ihrem Fachgebiet Kompetenzen diskutiert?

Im Fachgebiet wird davon ausgegangen, dass die Kenntnisse in der Bevölkerung über den realistischen Einsatz von KI in Medizin und Lebenswissenschaften nicht ausreichend sind. Umfragen haben ergeben, dass der alleinige Einsatz von KI – z.B. für diagnostische Zwecke – von der überwiegenden Mehrzahl in der Bevölkerung abgelehnt wird, während es bereits eine mehrheitliche Zustimmung für KI-Lösungen gibt, wenn diese das medizinische Personal bei der Diagnosefindung unterstützen [30] . Dies deutet darauf hin, dass eine differenzierte Heranführung der Bevölkerung an den Einsatz von KI in der Medizin und den Lebenswissenschaften notwendig und auch zielführend sein wird. Um eine solche differenzierte Betrachtung zu KI-Lösungen durchführen zu können, muss die Gesellschaft kontinuierlich über die Entwicklungen von KI in Medizin und Lebenswissenschaften informiert werden. Hierfür müssen unterschiedliche Foren geschaffen werden, in denen Wissenschaftler*innen, gemeinsam mit Kommunikationsexpert*innen und Wissenschaftsjournalist*innen auf diese Themen aufmerksam machen und in den Dialog mit der Gesellschaft treten (können). Dabei wird es wichtig sein, die Bürger*innen nicht mit populärwissenschaftlicher Literatur allein zu lassen, die die technische Entwicklung häufig einseitig negativ darstellt aber nicht ausreichend aufklärt. Auf der Seite der Wissenschaft müssen die Kommunikationskompetenzen für ein so komplexes Thema wie KI verbessert werden. Hier muss noch enger mit der Wissenschaftskommunikation zusammengearbeitet werden. Auf der Seite der Bürger*innen muss Interesse und Verständnis geweckt werden. Auch hier sind völlig unzureichende und häufig nicht zutreffende Vorstellungen der Möglichkeiten und der Grenzen von KI verbreitet. Durch gezielte und differenzierte Information der Bürger*innen muss ein ausreichendes Wissen aufgebaut werden, so dass die Bürger*innen in die Lage versetzt werden, faktenbasierte Entscheidungen und Einschätzungen zum Thema KI in Medizin und Lebenswissenschaften treffen zu können.

Inwiefern werden die Dimensionen diskutiert? Wo sehen Sie Lücken?

Das Thema KI wird im Fachgebiet Lebenswissenschaften und Medizin noch zu sehr von der technischen und wissenschaftlichen Seite betrachtet, und noch zu wenig von der Seite des Einflusses von KI auf das Leben in unserer Gesellschaft [31] . Im alltäglichen Diskurs wird KI häufig gleichgesetzt mit Überwachung. Diese wird jedoch paradoxerweise durch Bürger*innen an anderer Stelle leicht ermöglicht, in dem viele ihre Daten freiwillig an große Konzerne abgeben. Im Gegensatz dazu herrscht häufig große Skepsis gegenüber einem möglichen Einsatz von KI in anderen Bereichen. Das gilt nicht nur für KI-Lösungen, sondern für digitale Lösungen im Allgemeinen. Fehlendes Wissen, sowie Fehlinformationen zum Thema KI führt zu Verunsicherung bei den Bürger*innen, woraus Ablehnung erfolgen kann, insbesondere, wenn es um den Einsatz von KI geht, der von staatlicher Seite gefördert oder sogar durchgeführt wird. Die Corona-Warn-App in Deutschland ist hierfür ein gutes Beispiel. Hier liegen enorme Lücken im Verständnis von digitalen Werkzeugen inklusive KI in der Bevölkerung vor, eine unzureichende Fähigkeit, Risiken abzuschätzen („Gehen von Datenschutzverletzungen in einer pandemischen Krisensituation größere Risiken aus als von reduziertem Gesundheitsschutz?“), und keine Verhältnismäßigkeit zwischen freiwilliger Abgabe von persönlichen Daten an privatwirtschaftliche internationale Konzerne bei gleichzeitiger Verweigerung digitaler Werkzeuge und KI in anderen Lebens- und Arbeitswelten inklusive der Medizin. Für ein umfängliches Verständnis von KI, deren Möglichkeiten, Chancen und Risiken bedarf es einer kontinuierlichen Informationskampagne hinsichtlich unterschiedlicher Themenfelder oder Dimensionen von KI. Diese sollten die technischen und wissenschaftlichen Errungenschaften genauso umfassen wie mögliche Einsatzgebiete, Diskussion der Chancen und Risiken, potenzielle Veränderungen, die auf die Bürger*innen zukommen, aber auch ethische, moralische und juristische Aspekte zu KI. Wichtig erscheint mir dabei, dass das Wissen zum Thema KI in der Medizin ausgewogen vermittelt wird und auch der dystopischen Überzeichnung der KI in mancher populärwissenschaftlicher Literatur umfangreiche faktenbasierte Informationen gegenübergestellt werden. Die Deutungshoheit darf nicht in Hand derer liegen, die einseitige und düstere Zukunftsszenarien beschwören.

Wovon hängt es ab, ob die Bürger*innen diese Fähigkeiten erwerben können?

Die wichtigste Voraussetzung für den Erwerb von Fähigkeiten und Fertigkeiten der Bürger*innen zum Thema KI ist eine positive und offene Grundeinstellung der Bevölkerung zu diesem wichtigen Zukunftsthema. Wie oben bereits angedeutet, bedarf es dafür einer kontinuierlichen Informationsstrategie. Wenn es gelingt den Bürger*innen zu vermitteln, dass KI bestimmte Bereiche ihrer Arbeits- und Lebenswelten verbessern wird, dann sehe ich eine große Chance, dass KI auch im Bereich der Medizin und Lebenswissenschaften in Zukunft ihr enormes Potential für unsere Gesellschaft zeigen kann und wird. Lassen Sie mich dies etwas überspitzt plakativ darstellen: Wenn die Bürger*innen nicht in die Lage versetzt werden, zwischen dem Stellenwert einer für die Überwachung von Bürger*innen eingesetzten KI-Lösung in nicht-demokratischen Staaten sowie den KI-Algorithmen der großen Daten- und Internetmonopolisten zur Optimierung von Werbestrategien auf der einen Seite und KI-Lösungen in der Medizin zur verbesserten Diagnostik auf der anderen Seite unterscheiden zu können, dann wird der sinnvolle und nützliche Einsatz von KI in der Medizin nur schwer umsetzbar sein. Daraus lassen sich wichtige Anforderungen ableiten: eine kontinuierliche Informierung über die Entwicklung von KI in den unterschiedlichen Lebenswelten, eine differenzierende Betrachtung unterschiedlicher Einsatzbereiche, eine faktenbasierte Berichterstattung über Möglichkeiten, Chancen und Limitationen von KI, und eine ethische Debatte über die Konsequenzen von KI-Lösungen für unsere Gesellschaften.

Wesentliche Einflussfaktoren sind exzellente, faktenbasierte und diversifizierte Informationsangebote seitens staatlicher und unabhängiger Institutionen. Hier sind die Wissenschaften, Bildungseinrichtungen (von der Schule bis zur Erwachsenenbildung), große Teile der Medien, Stiftungen, vertrauenswürdige Unternehmen, aber auch Parteien, Verbände, Fachgesellschaften und Regierungen gefragt, solche Angebote zu entwickeln und miteinander abzustimmen. Darüber hinaus kommen Institutionen wie dem Deutschen Ethikrat, den wissenschaftlichen Akademien (z.B. Leopoldina), sowie den entsprechenden Ministerien und den Forschungsförderern wichtige Aufgaben zu, entsprechende Rahmenbedingungen für die unterschiedlichen Informationsangebote zu schaffen und diese zu begleiten. Aus meiner Sicht erscheint die Entwicklung nochmals verbesserter KI-Algorithmen im Vergleich zur Notwendigkeit, das Thema KI in der Bevölkerung positiv zu besetzen, beinahe zweitrangig. Diese Einschätzung leitet sich aus der Beobachtung ab, dass sich die Beschreibung und Wahrnehmung von KI als einer neuen Bedrohungslage für unsere freiheitlich orientierte Gesellschaft bereits formiert und teilweise etabliert hat. Hier droht schwerer Schaden, denn eine negative Einstellung der Bevölkerung zu diesem Thema wird nur sehr schwer reversible sein. Es soll hier nicht der Eindruck entstehen, dass KI keine Gefahren in sich birgt, auf die genauso aufmerksam gemacht werden muss. Aber da viele andere Nationen (USA, China, Israel, Vereinigtes Königreich, Japan, Südkorea und andere) KI sehr viel aufgeschlossener gegenüberstehen und dort mit deutlich weniger Bedenken Innovationen in diesem Bereich umgesetzt werden, sind wir gezwungen, die Diskussion in Deutschland in die richtigen Bahnen zu lenken. Eine Verweigerung durch Bedenken wird keine Lösung sein. Wenn es uns gelingt, unseren Wertekanon bei der Entwicklung und dem Einsatz von KI einzubringen, und wir Werte wie demokratische, gleichberechtigte Nutzung unter Wahrung essenzieller Menschenrechte zum Maßstab bei KI machen, dann besteht hier die große Chance, mitzubestimmen, wie KI weltweit zum Einsatz kommt. Diese Chance kann aber nur genutzt werden, wenn die Grundvoraussetzungen wie beschrieben erarbeitet werden und negative Einflussfaktoren ernst genommen werden.  

Inwieweit muss zwischen verschiedenen Kompetenzen für unterschiedliche Zielgruppen unterschieden werden?

Kompetenzen und Kompetenzanforderungen müssen deutlich differenziert für die unterschiedlichen Zielgruppen entwickelt werden, da in Bezug auf die nächste Dekade unterschiedliche Anforderungen an unterschiedliche Altersgruppen gestellt werden. Für Bürger*innen im höheren Lebensalter muss sichergestellt werden, dass der Einsatz von KI, die eigentlich zur Verbesserung von Lebenssituationen gedacht ist, aufgrund fehlender Kenntnis und damit verbundener möglicher Ablehnung nicht zu nachteiligen Auswirkungen führt. Hier muss ein Grundverständnis für die Möglichkeiten von KI entwickelt werden, ohne dass technische Details wirklich verstanden werden müssen. Für Erwachsene im Berufsleben müssen berufsfeld-spezifische Weiterbildungsangebote entwickelt werden. Hier spielen die Berufsverbände, aber auch Einrichtungen der höheren Bildung eine wichtige Rolle. Ganz entscheidend wird aber die Entwicklung von Kompetenzen im Bereich der Bildung, beginnend in der Schule über die Hochschulen, Universitäten und berufsausbildungs-begleitende Institutionen, sein. Wenn es unser Ziel ist, KI für unsere Bürger*innen nutzbar zu machen und wir dabei nicht im Wesentlichen auf das Know-How und die Expertise aus den derzeit führenden Nationen angewiesen sein wollen, dann müssen deutliche Anstrengungen getätigt werden, die Ausbildungscurricula um alle oben genannten Dimensionen zu KI zu ergänzen. Hier fehlt es in Deutschland an einer neuen Generation von Expert*innen, die KI-Lösungen nach unserem Wertekanon in allen Arbeits- und Lebenswelten entwickeln können. Insbesondere in den Schulen (Informatik-Unterricht) und im universitären Ausbildungsbereich müssen weitere Angebote (Studiengänge) entwickelt werden. Vorbild für weitere Angebote in der doktoralen und post-doktoralen Ausbildung ist zum Beispiel die Helmholtz Artificial Intelligence Cooperation Unit [32] . Diese Angebote müssen noch weiter ausgebaut werden. Zudem müssten noch größere Anstrengungen getätigt werden um im Innovationsfeld zwischen dem Start Up Sektor, den Universitäten, Großforschungseinrichtungen, der Industrie, und Venture Capital Firmen, neue Standorte in Deutschland zu schaffen, an denen KI-Lösungen entwickelt werden.

Danksagung

Ich möchte mich bei meinen Kolleg*innen Dr. Anna C. Aschenbrenner, Dr. Matthias Becker, Marie Oestreich, Nico Reusch, Jonas Schulte-Schrepping, Dr. Thomas Ulas, und Stefanie Warnat-Herresthal für die hervorragenden Gedanken und Beiträge bedanken.

Volltext zum Download

Literatur

  1. Precht, R. D. Künstliche Intelligenz und der Sinn des Lebens. 128 (Wilhelm Goldmann Verlag, 2020).
  2. Rosling, H. Factfulness: Ten Reasons We’re Wrong About the World – and Why Things Are Better Than You Think. (SCEPTRE, 2018).
  3. Lee, K.-F. AI-Superpowers: China, Silicon Valley und die neue Weltordnung. (Campus Verlag GmbH, 2019).
  4. Schrimpf, M. et al. Integrative benchmarking to advance neurally mechanistic models of human intelligence. Neuron 108, 413–423 (2020).
  5. Deary, I. J. Intelligence. Annu. Rev. Psychol. 63, 453–482 (2012).
  6. Kurzweil, R. Menschheit 2.0 : die Singularität naht. at <https://www.deutsche-digitale-bibliothek.de/item/CEWTLMPF3X2EDVOTXAZNE2QCOTVQ4RU2>
  7. Schrittwieser, J. et al. Mastering Atari, Go, chess and shogi by planning with a learned model. Nature 588, 604–609 (2020).
  8. Frankish, K. & Ramsey, W. M. The Cambridge Handbook of Artificial Intelligence. 368 (Cambridge University Press, 2014).
  9. Zhang, K. et al. Clinically Applicable AI System for Accurate Diagnosis, Quantitative Measurements, and Prognosis of COVID-19 Pneumonia Using Computed Tomography. Cell 182, 1360 (2020).
  10. Topol, E. J. High-performance medicine: the convergence of human and artificial intelligence. Nat. Med. 25, 44–56 (2019).
  11. Senior, A. W. et al. Improved protein structure prediction using potentials from deep learning. Nature 577, 706–710 (2020).
  12. Rajkomar, A., Dean, J. & Kohane, I. Machine learning in medicine. N. Engl. J. Med. 380, 1347–1358 (2019).
  13. Garvin, M. R. et al. Potentially adaptive SARS-CoV-2 mutations discovered with novel spatiotemporal and explainable AI models. Genome Biol. 21, 304 (2020).
  14. Muntner, P. et al. Validation of the atherosclerotic cardiovascular disease Pooled Cohort risk equations. JAMA 311, 1406–1415 (2014).
  15. Bahdanau, D., Cho, K. & Bengio, Y. Neural Machine Translation by Jointly Learning to Align and Translate. arXiv (2014).
  16. Escobar, G. J. et al. Piloting electronic medical record-based early detection of inpatient deterioration in community hospitals. J Hosp Med 11 Suppl 1, S18–S24 (2016).
  17. Gulshan, V. et al. Development and validation of a deep learning algorithm for detection of diabetic retinopathy in retinal fundus photographs. JAMA 316, 2402–2410 (2016).
  18. Chilamkurthy, S. et al. Deep learning algorithms for detection of critical findings in head CT scans: a retrospective study. Lancet 392, 2388–2396 (2018).
  19. Mori, Y. et al. Real-Time Use of Artificial Intelligence in Identification of Diminutive Polyps During Colonoscopy: A Prospective Study. Ann. Intern. Med. 169, 357–366 (2018).
  20. Tison, G. H. et al. Passive detection of atrial fibrillation using a commercially available smartwatch. JAMA Cardiol. 3, 409–416 (2018).
  21. Mujahid, O., Contreras, I. & Vehi, J. Machine learning techniques for hypoglycemia prediction: trends and challenges. Sensors (Basel) 21, (2021).
  22. Kaissis, G. A., Makowski, M. R., Rückert, D. & Braren, R. F. Secure, privacy-preserving and federated machine learning in medical imaging. Nat. Mach. Intell. (2020). doi:10.1038/s42256-020-0186-1
  23. Warnat-Herresthal, S. et al. Swarm Learning as a privacy-preserving machine learning approach for disease classification. BioRxiv (2020). doi:10.1101/2020.06.25.171009
  24. Auer, C., Hollenstein, N. & Reumann, M. in Gesundheit digital: Perspektiven zur Digitalisierung im Gesundheitswesen (ed. Haring, R.) 33–46 (Springer Berlin Heidelberg, 2019). doi:10.1007/978-3-662-57611-3_3
  25. Berg, A. Künstliche Intelligenz Von der Strategie zum Handeln. (2018).
  26. Char, D. S., Shah, N. H. & Magnus, D. Implementing Machine Learning in Health Care – Addressing Ethical Challenges. N. Engl. J. Med. 378, 981–983 (2018).
  27. Helmholtz AI. at <https://www.helmholtz.ai/>