Künstliche Intelligenz bietet nicht nur aus technologischer Sicht weitreichende Diskussionsanlässe, sondern fordert auch auf gesellschaftlicher, politischer und ethischer Ebene eine fundamentale Auseinandersetzung. Je nach Blickwinkel treten verschiedene Chancen und Risiken des Einsatzes von KI-Systemen hervor und es stellt sich die Frage, für wen welche Kompetenzen im Umgang und im Handeln mit diesen Systemen erforderlich sind. Für das Projekt „Digitales Deutschland“ haben fünf Expert*innen ihre Perspektive auf den Status quo sowie auf die Chancen und Herausforderungen geschildert, die sich durch den Einsatz von Künstlicher Intelligenz in unterschiedlichen gesellschaftlichen Bereichen ergeben. Ausgewählte Aspekte stellen wir in diesem Artikel komprimiert vor. Zu den vollständigen Expertisen gelangen Sie über unsere Projektwebsite bzw. direkt verlinkt über die nachfolgende Liste.

Künstliche Intelligenz in der Informatik (Prof. Dr. Ira Diethelm)

Künstliche Intelligenz in den Medizin- und Lebenswissenschaften (Prof. Dr. Joachim Schultze)

Künstliche Intelligenz in den Bildungswissenschaften (Prof. Dr. Kerstin Mayrberger)

Selbstbestimmtes Verbraucherhandeln in KI-gestützten IT-Infrastrukturen (Prof. Dr. Jörn Lamla)

Künstliche Intelligenz und kritische Medienbildung (Dr. Harald Gapski)

Droide R2-D2 aus Star Wars oder Commander Data aus Star Trek: So oder mit anderen Science-Fiction-Charakteren beschreiben viele Bürger*innen Künstliche Intelligenz. Dazu kommen Vorstellungen über abstrakte körperlose KI-Systeme wie Skynet aus Terminator, HAL aus Odyssee im Weltraum oder die Matrix, die das Wohl der Menschheit in der Regel höheren Missionszielen unterordnen (vgl. Diethelm 2021). Hier klaffen Fiktion und Realität allerdings weit auseinander: Während in besagten Filmen eine starke KI suggeriert wird, die übermenschliche Fähigkeiten besitzt und diese unter anderem dazu einsetzt, Menschen zu manipulieren und zu bevormunden, basieren die heute in der Realität eingesetzten KI-Systeme und Anwendungen lediglich auf einer sogenannten schwachen, lernenden KI. Die Entwicklung einer starken KI – da sind sich alle unsere befragten Expert*innen einig – steht kurz- oder mittelfristig nicht bevor.

Diese Mystifizierung – oft Dämonisierung – von KI bleibt nicht ohne Konsequenzen für den öffentlichen Diskurs und führt häufig zu irrationalen Ängsten und Vorbehalten der Bevölkerung gegenüber IT-Systemen aller Art, die automatisiert oder autonom handeln. In der Konsequenz kann die Mehrheit der Bürger*innen aufgrund von Berührungsängsten und fehlendem Wissen Chancen und Risiken im Kontext von Künstlicher Intelligenz häufig nicht faktenbasiert abwägen. Werturteile werden demensprechend häufig zulasten einer realitätsfernen Vorstellung von KI getroffen (vgl. Diethelm 2021; vgl. Schultze 2021).

Demgegenüber stehen Wissenschaft, Technik und Forschung, in denen das Potenzial von schwacher KI bereits in verschiedenen Bereichen zum Einsatz kommt und unverzichtbar geworden ist, z. B. in Gestalt von Industrierobotern, zur Optimierung formeller Bildungsprozesse (vgl. Mayrberger 2021) oder im medizinisch-diagnostischen Bereich (vgl. Schultze 2021).

Um die Bevölkerung auf dem Weg der digitalen Transformation selbstbestimmt, mündig und kritisch-reflektiert mitzunehmen, fordern Wissenschaftler*innen sowohl die Förderung basisinformatischer Kompetenzen in der formalen Bildung von Kindern und Jugendlichen (vgl. Diethelm 2021) als auch mehr institutionelle Aufklärung und kritische Bildungsangebote für die breite Bevölkerung (vgl. Schultze 2021; vgl. Gapski 2021). Ein Schwerpunkt sollte dabei auf einer Entmystifizierung von KI liegen, auf deren Grundlage es auch für Normalverbraucher*innen möglich ist, die Vielfalt von KI- und IT-Anwendungen in Alltag, Schule und Beruf verstehen und kritisch beurteilen zu können (vgl. Diethelm 2021; vgl. Gapski 2021).

Neben der definitorischen Unterscheidung von starker und schwacher KI gibt es noch eine zusätzliche Definition von KI, die auf das Phänomen eingeht, dass Menschen autonom handelnde, „smarte“ Systeme – deren Funktionsweise sie sich nicht erklären können – als Künstliche Intelligenz bezeichnen (vgl. Dietheln 2021). Im Umkehrschluss bedeutet das: Sobald Technik verstanden – im Sinne von erklärbar – wird, verliert diese Technik an Magie und wirkt weniger intelligent und angsteinflößend (vgl. ebd.). Auch im politischen und wissenschaftlichen Diskurs um Vertrauen in und gesellschaftliche Akzeptanz von KI nehmen die Aspekte der Erklärbarkeit, Transparenz und Nachvollziehbarkeit eine wesentliche Rolle ein (vgl. Gapski 2021; vgl. Diethelm 2021). So fordert zum Beispiel die Enquetekommission des Deutschen Bundestags, dass KI-Systeme für die Gesellschaft keine „Black Box“ sein sollen, sondern dass es für Bürger*innen bestmöglich nachvollziehbar sein muss, in welchen Anwendungen KI steckt, welche Eigenschaften diese besitzt und aus welchen Daten sich ihr Training (Machine Learning) speist (vgl. Deutscher Bundestag 2020).

Vor dem Hintergrund der Selbstbestimmung und Souveränität der Bürger*innen ist eine ethisch-humanistische Auseinandersetzung mit algorithmischen und automatisierten Auswertungs-, Entscheidungs- und Steuerungssystemen wesentlich, die oft im Verborgenen und schleichend einen Einfluss auf das gesellschaftliche Miteinander nehmen (vgl. Gapski 2021). So haben diese Systeme bereits heute beispielsweise Einfluss auf die Vergabe von Krediten oder Sozialleistungen, Bildungschancen oder berufliche Karrieren (vgl. ebd.) und können durch vorurteilsbehaftete Trainingsdaten Strukturen der Ungerechtigkeit und Diskriminierung reproduzieren (vgl. Diethelm 2021; vgl. Gapski 2021). Die gewollte und ungewollte Datenfreigiebigkeit im Netz, berechenbares Klickverhalten und daraus resultierende Auswertungsprozesse stehen auch im Kontext einer möglichen Einflussnahme – gar Manipulation – von Verbraucher*innen zur Diskussion (vgl. Lamla 2021; vgl. Gapski 2021).

Mit Blick auf eine gelingende, gesellschaftlich akzeptierte Verankerung von KI-System werden sowohl im Bildungs- und Gesundheitssektor als auch im Bereich der Verbraucher*innenbildung ähnliche Stellschrauben identifiziert: eine rechtliche, ethische und qualifikatorische Auseinandersetzung mit Datenschutz und Datensicherheit, ein kritisch-reflexiver Blick auf ökonomische und politische Interessen im Kontext von Daten sowie die Notwendigkeit der Transparenz in Bezug auf Datenherkunft, Re- und Dekontextualisierung sowie Interpretation von Daten.

Im Projekt „Digitales Deutschland“ stellen wir uns die Frage, welche Kompetenzen und Kompetenzanforderungen im Umgang und Handeln mit Künstlicher Intelligenz für Kinder, Erwachsene und ältere Menschen erforderlich sind. In unserem Rahmenkonzept finden Sie bereits eine grundlegende Auseinandersetzung zum Kompetenzbegriff und zu den Bedingungen für einen gelingenden Kompetenzerwerb angesichts der fortschreitenden Digitalisierung. Die folgenden Aspekte konzentrieren sich speziell auf ausgewählte Kompetenzimpulse im Umgang mit KI-Anwendungen, die unsere Expert*innen in ihren Expertisen hervorgehoben haben.

Die informatische Didaktik sieht sich in der Rolle, das Verstehen und Gestalten automatisierter Informationsverarbeitung zu fördern und dazu beizutragen, dass vorhandene und künftige KI-Systeme von breiten Teilen der Bevölkerung souverän beurteilt werden können. Als wichtige Adressat*innen einer „KI-Literalität“ stehen vor allem Kinder und Jugendliche in formellen Bildungskontexten im Fokus. In der Vermittlung eines informatischen Grundlagenwissens sieht Prof. Dr. Ira Diethelm dementsprechend schulische Institutionen in der Verantwortung – allerdings unter Mitwirkung von Akteur*innen der didaktischen Informatik an den Unterrichtsgegenständen. Um Beurteilungs-, Reflexions- und Verständnisprozesse bei jungen Menschen anzuregen, hat es sich aus didaktischer Sicht bewährt, lebensweltnahe KI-Anwendungen, wie Chatbots oder beliebte Apps, als Lerngegenstände zu wählen und daran u. a. Wirkprinzipien und Wirkzusammenhänge in Bezug auf Verantwortung, Datenherkunft, Gerechtigkeit, Sicherheit und Auswirkungen der Systeme erklärbar zu machen. Ergänzend dazu plädiert Prof. Dr. Ira Diethelm dafür, das aktive Mitgestalten und Programmieren von KI- Anwendungen und IT-Systemen – als kreative Komponente – verstärkt in informatische Bildungsprozesse einzubetten.

Die Potenziale von Künstlicher Intelligenz gewinnen auch in Lern- und Lehrkontexten zunehmend an Bedeutung. Am Beispiel von Learning Analytics lässt sich eine Perspektive aufzeigen, wie Lernprozesse und Lernstrukturen unter Verwendung von KI-Methoden datenbasiert optimiert werden können. Learning Analytics speist sich aus der Sammlung vielfältiger und großer Datenbestände über Lernende, ihre Lernumgebungen, Lerninhalte und Leistungen und wertet diese algorithmisch aus. Die Anwendung bietet also zum einen Optimierungsoptionen für eine individuelle Personalisierung des Lernens als auch für die strukturelle Gestaltung von Lernsettings und digitalen Räumen, in denen gelernt wird.

Um dieses Potenzial verantwortungsvoll und kritisch nutzen zu können, bedarf es nach Prof. Dr. Kerstin Mayrberger einer grundlegende „Bildungsdatenkompetenz“ (educational data literacy). Vor allem für Akteur*innen des formalen Bildungsbereichs sollte diese nicht nur eine Option, sondern Voraussetzung sein – allen voran für die Lehrenden und Lernenden, aber auch für die involvierten Gestalter*innen und Entscheidungsträger*innen aus Verwaltung und Politik. Neben einer Auseinandersetzung mit ethischen und datenschutzrechtlichen Fragen gehört hierzu sowohl eine Befähigung dazu, Bildungsdaten richtig zu lesen und kritisch zu reflektieren als auch verantwortungsvolle und transparente Entscheidungen für Lernprozesse und die strukturelle Gestaltung von Lernumgebungen zu treffen.

Von der Medizin genutzte KI-Anwendungen haben schon heute einen positiven Einfluss auf unsere Lebensqualität. Sie finden ihren Einsatz beispielsweise in der Entschlüsselung von Genomsequenzen oder bei der Früherkennung und Überwachung von Krankheiten. Dem gegenüber steht ein oft verzerrtes Bild in der Bevölkerung vom Einsatz von KI, das mit einer realistischen Beurteilung oft wenig zu tun hat:

Diese Unwissenheit führt laut Prof. Dr. Joachim Schultze – vor allem bezogen auf staatliche Angebote – zu einer Dämonisierung und Ablehnung von KI-Anwendung, von denen eigentlich ein Potenzial für die Gesundheit der Bürger*innen ausgeht. Zuletzt konnte dieses Phänomen beispielsweise bei der fehlenden gesellschaftlichen Akzeptanz für die Nutzung der Corona-Warn-App der Bundesregierung beobachtet werden. Ambivalent erscheint dies vor allem auch deshalb, so Prof. Dr. Joachim Schultze, weil sich zeitgleich KI-Anwendungen kommerzieller Anbieter größter Beliebtheit erfreuen, die im Vergleich viel mehr sensible Daten sammeln und auswerten. Ein Ausschöpfen des Potenzials für Diagnostik, Therapie und Wissenschaft kann seiner Meinung nach nur mit einer wohlwollenden Grundhaltung und kritischen Offenheit der Bevölkerung gegenüber neuen Technologien einhergehen. Zur Schärfung von Beurteilungskompetenzen betont er deshalb die Notwendigkeit von zielgruppengerechten, staatlich geförderten Informations- und Aufklärungsstrategien und differenzierten Bildungsangeboten für alle Bevölkerungsgruppen.

Im Rahmen einer kritischen Medienbildung sind vor allem reflexive und selbstreflexive Bildungsaspekte bedeutsam, welche die Bürger*innen in Hinblick auf die Ausbildung von Kritikfähigkeit und die Stärkung ihrer Urteilskraft und Mündigkeit unterstützen sollen. Vor dem Hintergrund technologischer, datengetriebener Entwicklungen sind es nach Dr. Harald Gapski vor allem soziale und ethische Auseinandersetzungen, die im Kontext der fortschreitenden digitalen Transformation gesamtgesellschaftlich geführt werden müssen – weil diese maßgeblich zur Ausgestaltung eines souveränen und selbstbestimmten Lebens beitragen. Dr. Harald Gapski versteht „digitale Aufklärung“ demensprechend als ganzheitliches Zusammenwirken von Kompetenzdimensionen, die in Summe starke, handlungsfähige Subjekte hervorbringen soll.

Als wesentliche Kompetenzanforderungen gelten nach Dr. Harald Gapski unter anderem die Ausbildung von Allgemeinwissen über die Einsatzmöglichkeiten, Treiber, Folgen und Funktionsweisen von KI sowie die Förderung einer „ethischen Mentalität“ und Reflexionsfähigkeit, politische Bildung und eine Sensibilisierung für soziale Folgen.

Im Mittelpunkt der Betrachtungen von Prof. Dr. Jörn Lamla zu Verbraucherbildung und Künstlicher Intelligenz steht das Moment der Selbstbestimmung von Verbraucher*innen in einer digitalen Konsumwelt. In einem „unübersichtlichen Bewertungsdschungel“ – zwischen kuratierten Inhalten, Such-Algorithmen, Empfehlungs-Bots und Fakes – souveräne Konsumentscheidungen zu treffen setzt ein hohes Maß an Urteilskraft voraus. Im Sinne der Selbstbestimmung sei deshalb die Ausbildung einer kritischen Kompetenz dringend erforderlich, anhand derer Bürger*innen eigene Bewertungsmaßstäbe und -praktiken für ihr Verbraucherhandeln entwickeln können. Im Rahmen von KI-gestützten Infrastrukturen und Verhaltensbeobachtungen und -steuerungen durch Konzerne sei dieser Lernprozess aber nur unter erschwerten Bedingungen möglich.

Das Verlassen der vermeintlich entlastenden Komfortzone – im Sinne habitualisierter Klickroutinen – hin zur Einnahme einer kritischen Distanz gegenüber digitalen Bewertungsinfrastrukturen wird dabei nicht nur als Schritt für die individuelle Souveränität verstanden, sondern als grundsätzliches Potenzial für „andere Sphären der Selbstbestimmung“ wie demokratische Politik, Bildung und Intimität.