Künstliche Intelligenz und KI-bezogene Kompetenzen. Ein Forschungsüberblick

Laura Sūna und Dagmar Hoffmann (Universität Siegen)

Veröffentlicht am 09.12.2021

Auffallend ist, dass in den von uns ausgewerteten empirischen Studien der Begriff Künstliche Intelligenz analytisch unscharf bleibt. Beispielsweise sprechen Kieslich, Lünich, Marcinkowski und Starke (2019) von ‚intelligenten digitalen Technologien‘, Hacker (2016) stellt „vernetzte, verteilte künstliche Intelligenz“ in den Mittelpunkt seiner Analyse. Andere betonen die steigende Bedeutung von KI in der Gesellschaft, legen sich jedoch nicht fest, was sie konkret damit meinen (z. B. Stürz; Stumpf & Mendel, 2020; Pfeiffer 2020). Dies mag zum einen an dem Format der Veröffentlichungen liegen – viele davon sind Forschungsberichte, die eine breite Öffentlichkeit adressieren – und sich somit eher auf die empirischen Ergebnisse als auf eine theoretische Einordnung konzentrieren. Zum anderen kann dies auch ein Hinweis darauf sein, dass eine allgemein gültige Definition von KI schwer zu formulieren ist. So beschreiben die analysierten Studien grundsätzlich Künstliche Intelligenz anhand von Anwendungsbereichen wie zum Beispiel im Freizeitbereich (Sprachassistenzsysteme, Smart Toys, Social Media), Bildungsbereich (Learning Analytics), in der Medizin (Diagnostik durch Algorithmen), der algorithmusgestützten Personalauswahl oder in spezifischen Wirtschaftssparten (Roboter in der Produktion).

Insgesamt wird in den empirischen und theoretischen Beiträgen auf die im wissenschaftlichen Diskurs verbreitete Unterscheidung zwischen schwacher und starker Künstlicher Intelligenz verwiesen (vgl. beispielsweise die Expertise von Ira Diethelm, 2021). Fischer und Petersen (2018, S. 10) weisen darauf hin, dass es sich bei den Systemen, die heute im Einsatz sind, um so genannte schwache künstliche Intelligenzen handelt, „die in einem eng umgrenzten Einsatzgebiet die Problemlösungskompetenz von Menschen erreichen oder übertreffen. Im Sinne der Fähigkeit, komplexe Ziele zu erreichen, sind solche Systeme also intelligent. Dies ist jedoch beschränkt auf ein eng begrenztes Ziel“. Hingegen werden als starke KI solche Systeme beschrieben, die ‚lernen‘, Vernetzungen zwischen Daten herzustellen. Der breiten Realisierung starker KI würden jedoch derzeit noch physische Speicherkapazitäten und Netzwerkstrukturen fehlen, merken Marci-Boehncke & Rath (2020, S. 30-31) an. Einige Studien wie die von Wieland und in der Au (2017) oder Fischer und Puschmann (2021) grenzen den Geltungsbereich ihrer Studie auf den Bereich der Algorithmen ein, da aus ihrer Sicht Künstliche Intelligenz nur schwer zu definieren ist. Jedoch sind auch hier die Grenzen nicht immer deutlich zu ziehen. Beispielweise verwendet die Inhaltsanalyse der Medienberichterstattung von Fischer und Puschmann (2021) die Begriffe Algorithmus und Künstlichen Intelligenz zum Teil synonym.

Ein solcher Schwerpunkt auf einzelne Technologien der Künstlichen Intelligenz bringt eine Eingrenzung des Analysebereichs auf eine technische Ausprägung Künstlicher Intelligenz mit sich. Dabei werden jedoch andere Bereiche wie beispielsweise Maschinelles Lernen nicht miterfasst. Die Verwendung des ‚Sammelbegriffs‘ der Künstlichen Intelligenz ermöglicht die empirische Abdeckung der Vielfalt des analysierten empirischen Feldes. Möchte man somit die Einstellungen der Bevölkerung zu KI ermitteln, bietet es sich eher an, an konkreten Anwendungsbeispielen anzuknüpfen als an technologischen Aspekten, da diese für die breitere Bevölkerung vermutlich wenig anschlussfähig sind. Für die Einordnung der Befunde ist eine Definition von KI jedoch notwendig. So arbeitet das Projekt Digitales Deutschland mit der folgenden Arbeitsdefinition von KI:

„Wir verstehen unter KI (Künstlicher Intelligenz) Technologien, die Menschen nutzen können, um Denk- und Handlungsvollzüge zu erweitern und funktional zu ersetzen (vor allem in den Bereichen des Wahrnehmens, des Verarbeitens natürlicher Sprache, des Schlussfolgerns, der Lernsteuerung und des Vorausplanens). Der Einsatz von KI verändert damit das Wechselverhältnis zwischen Menschen und Maschinen und wirft grundlegende Fragen zur Handlungsfreiheit des Menschen auf. Dies betrifft die Ebene des individuellen Handelns – hat aber gleichfalls eine gesellschaftliche Dimension.“

Künstliche Intelligenz rückt in den letzten fünf Jahren vermehrt in den Fokus sozialwissenschaftlicher Forschung. So gibt es mehrere Studien, die sich allgemein mit dem Wissen der Bevölkerung über KI befassen – es geht dabei vorwiegend um das Kennen und Erkennen der KI-Technologien in der Alltagswelt. Außerdem möchte man sich einen Überblick über die Einstellungen zu KI und ihre Bewertung durch die Bevölkerung verschaffen (u.a. Stürz, Stumpf & Mendel 2020; Fischer & Petersen 2018). Obgleich KI in aller Munde ist und viele Menschen tagtäglich damit konfrontiert sind, wissen nur wenige Befragte in den Studien, was man konkret darunter versteht. Dadurch liegt der Schwerpunkt der Studien bis 2020 vorwiegend auf der Kenntnis und den Einstellungen zu KI und weniger auf dem konkreten Umgang mit KI-basierten Technologien, da hier womöglich Erfahrungswerte fehlen. Ab den 2020er Jahren gehen Studien vermehrt auf die Verankerung der KI in der Alltagswelt ein. Beispielsweise sollten die Befragten der Bitkom Studie (Berg & Dehmel 2020) angeben, inwiefern sie solche Anwendungen wie „Textvorschläge beim Nachrichten schreiben“, „Sprachassistenten auf dem Smartphone“ oder „Kaufempfehlungen in Online-Shops“ kennen und diese schon mal genutzt haben. In der Studie des Bayerischen Forschungsinstituts für Digitale Transformation (bidt) (Stürz, Stumpf & Mendel 2020) sollten die Befragten abschätzen, wann wohl vollständig autonome Fahrzeuge am Markt verfügbar sein werden und ob KI-Systeme allgemein dem Menschen überlegen sein werden. Beliebt sind auch Fragen nach einer etwaigen staatlichen Regulierung von KI.

KI und Algorithmen sind in vielen Anwendungen des Alltags integriert. Dies macht es erforderlich, dass Menschen einer modernen Gesellschaft sich ein umfängliches Wissen über diese Technologien aneignen. Das Wissen um die Funktionsweise von KI und welche Chancen und Risiken die Technologie mit sich bringt, trägt dazu bei, dass man sie besser einschätzen sowie sie angemessen und kompetent nutzen kann.

Immer mehr Studien – auch das Projekt Digitales Deutschland – befassen sich mit der Frage, welche Formen von digitaler Souveränität in einer durch KI geprägten Alltagswelt möglich und nötig sind. Dabei geht es um die Frage, wie kann der oder die Einzelne das eigene Leben mit digitalen Technologien selbstbestimmt gestalten und inwiefern kann er oder sie die Konsequenzen des digitalisierten Handelns einschätzen (vgl. u.a. Stubbe; Schaat & Ehrenberg-Silies 2019, S. 26). Der oder die Einzelne wird somit vor neue Kompetenzanforderungen gestellt. Es sind aber auch Fragen der KI- bzw. Algorithmenethik, die hier bedeutsam und in einigen Studien thematisiert werden (u.a. Marci-Boehncke & Rath 2020; Fischer und Puschmann 2021).

Wie können KI-bezogene Kompetenzen definiert werden? Wo schließen die Studien an das durch Digitales Deutschland entwickelte Rahmenkonzept zu Medien- und Digitalkompetenzen (2021) an? Long und Magerko (2020, S. 2) stellen fest, dass in der Forschung der Begriff der Kompetenz in einer Vielzahl von Disziplinen verwendet wird, um Fähigkeiten zu beschreiben, die das Potenzial haben, Kommunikation und Zugang zum medienvermittelten Wissen zu ermöglichen. Als Beispiele nennen sie digital literacy (d. h. Kompetenzen, die für die Verwendung von digitalen Geräten erforderlich sind), computational literacy (d. h. die Fähigkeit, einen Programmiercode zu verwenden, um Ideen auszudrücken, zu erforschen und zu kommunizieren), scientific literacy (verstanden als eine Wertschätzung der Natur, der Ziele und der allgemeinen Grenzen der Wissenschaft, verbunden mit einem gewissen Verständnis der wichtigsten wissenschaftlichen Ideen) und data literacy (die Fähigkeit, Daten zu lesen, mit ihnen zu arbeiten, sie zu analysieren und mit ihnen zu argumentieren).

KI-bezogene Kompetenzen sind demzufolge im Kontext diverser medienbezogener Kompetenzen zu sehen. Beispielsweise sind aus Sicht von Long und Magerko die instrumentell-qualifikatorischen Fähigkeiten, die im Sinne von Wissen darüber, wie Wissenschaft allgemein funktioniert und wie man einen Computer bedient, eine Voraussetzung für die Einschätzung von KI, Programmierkenntnisse sind es hingegen nicht. Diese können jedoch beim Umgang mit KI hilfreich sein. Gleichzeitig umfasst KI-bezogene Kompetenz auch Datenkompetenz, die der/die Einzelne auch über KI-Anwendungen hinaus benötigt. Im Kontext der prägenden Rolle diverser Mediendiskurse zu KI (vgl. Expertise von Harald Gapski, 2021) schlagen wir vor, ebenfalls emotionale, soziale und kreative Kompetenzen beim souveränen Umgang mit KI zu berücksichtigen. Solche Kompetenzen können helfen, die diskursiven Bedeutungskonstruktionen von KI kritisch zu bewerten (vgl. die Expertise von Jörn Lamla, 2021, der über kritische Bewertungskompetenzen spricht). Die von uns analysierten Studien arbeiten vorwiegend einzelne Aspekte von, bzw. Voraussetzungen für KI-bezogene Kompetenzen heraus. Im Folgenden werden einige Beispiele näher erläutert.

In ihrem medienpädagogischen Beitrag zu KI in der Alltagswelt von Kindern stellen Marci-Boehncke und Rath (2020) fest, es müssen instrumentell-qualifikatorische Fähigkeiten (sie bezeichnen diese als basal technische Kompetenzen) erworben werden, die ein Verständnis über die Funktionsweise von Algorithmen und somit auch von KI umfassen. Kinder benötigen Kompetenzen, die die Schnittstelle zur KI und der Alltagswelt (z. B. in Form von KI-Spielzeug) erklären: sie müssen verstehen, wie automatisierte Kommunikation funktioniert und wie soziale Rollen in digitalen Räumen definiert sind. Darüber hinaus sind solche kritisch-reflexive und kognitive Fähigkeiten wie Reflexions-, Argumentations- und Entscheidungskraft für den Umgang mit Künstlicher Intelligenz bedeutsam (Marci-Boehncke & Rath, 2020, S. 30). Stubbe, Schaat und Ehrenberg-Silies (2019, S. 28) betonen: „Eine wichtige Voraussetzung digitaler Souveränität ist es, Technologie [in diesem Fall die Technologie, die sich hinter Algorithmen und maschinellem Lernen verbirgt] zu verstehen, um sie kompetent nutzen und ihre Chancen sowie Risiken begreifen zu können.“ Dies gilt zudem für alle Altersgruppen – vom Kindesalter bis ins höhere Lebensalter müssen KI-bezogene Kompetenzen erworben werden.

Eine Studie über die Wahrnehmung der Nutzer*innen des Einsatzes von Algorithmen im Facebook News-Feed (Wieland & Au 2017) plädiert für die Entwicklung der Kompetenz des „Algorithm Awareness“, also einem Bewusstsein für die Art und Weise, wie die Informationen im Newsfeed durch Algorithmen zusammengestellt werden. Das sind sowohl kognitive und kritisch-reflexive als auch zugleich instrumentelle Fähigkeiten, die hier gefragt sind. Marci-Boehncke und Rath (2020) betonen darüber hinaus, dass es einer Kompetenz bedarf, die es dem und der Einzelnen ermöglicht, die algorithmisierte Daueranalyse der gesellschaftlichen Praxis (durch die Analyse dazugehöriger Daten) zu verstehen, zu reflektieren und moralisch-ethisch wie politisch zu bewerten. Eine solche KI-bezogene Kompetenz muss ergänzend zur klassischen Medienkompetenz entwickelt werden: „Es geht dabei nicht bewahrpolitisch um Digital- oder KI-Skepsis, sondern um eine abwägende Praxis, die wünschenswerte Unterstützung und Hilfe durch KI-Anwendungen nutzt und zugleich die politischen, ökonomischen und kulturellen Folgen der digitalen Anwendungen erfassen und bewerten kann.“ (Marci-Boehncke & Rath 2020, S. 32). Ähnlich betonen auch Fischer und Petersen (2018) die Notwendigkeit einer kognitiven Kompetenzdimension im Kontext von Algorithmen. Dies umfasst ein Bewusstsein über die Verwendung von Algorithmen, ein Verständnis darüber, wie Algorithmen funktionieren sowie kritische Bewertung der möglichen Folgen Künstlicher Intelligenz für die Gesellschaft.

Die beschriebenen Aspekte werden in der Definition von Long und Magerko (2020) gut zusammengeführt. Demzufolge sind KI-bezogene Kompetenzen als ein Bündel von Kompetenzen zu betrachten, das Nutzer*innen dazu befähigt, „Technologien Künstlicher Intelligenz kritisch zu evaluieren, mit ihnen effektiv zu kommunizieren und zusammenzuarbeiten sowie Künstliche Intelligenz als ein Werkzeug online, zu Hause und in der Arbeit zu nutzen.“ (Long & Magerko, 2020, S. 1, eigene Übersetzung aus dem Englischen) Bisher fehlen jedoch empirische Studien, die einen ganzheitlichen Blick auf KI-bezogene Kompetenzen werfen. Hilfreiche theoretische Vorarbeiten liefern jedoch beispielsweise die Meta-Studie von Long und Magerko (2020), sowie das Rahmenkonzept Digitales Deutschland. Die Analyse der Beiträge verdeutlicht darüber hinaus die Notwendigkeit einer subjektorientierten Perspektive auf KI-bezogene Kompetenzen. Gerade vor dem Hintergrund der Komplexität einer sozialwissenschaftlichen Eingrenzung des Begriffs der Künstlichen Intelligenz schlagen wir vor, in der empirischen Forschung die Perspektive der Menschen in unterschiedlichen Lebensphasen und in verschiedenen Handlungssituationen mit Medien und Künstlicher Intelligenz zu ermitteln. In diesem Kontext kann eine gesamtgesellschaftliche Einordnung von KI erfolgen.

Berg, A., & Dehmel, S. (2020). Künstliche Intelligenz. Berlin. https://www.bitkom.org/sites/default/files/2020-09/bitkom-charts-kunstliche-intelligenz-28-09-2020_final.pdf

---

Diethelm, I. (2021). Künstliche Intelligenz und Informatik. https://digid.jff.de/expertise-kuenstliche-intelligenz-und-informatik-prof-dr-ira-diethelm/

---

Digitales Deutschland (2021). Rahmenkonzept. https://digid.jff.de/rahmenkonzept.

---

Druga, S., Vu, S. T., Likhith, E., & Qiu, T. (2019). Inclusive AI literacy for kids around the world. In Association for Computing Machinery (Hrsg.), FL 2019: Proceedings of FabLearn (S. 104-111).

---

Fischer, S., & Petersen, T. (2018). Was Deutschland über Algorithmen weiß und denkt. Ergebnisse einer repräsentativen Bevölkerungsumfrage. Bertelsmann Stiftung. https://doi.org/10.11586/2018022

---

Fischer, S., & Puschmann, C. (2021). Wie Deutschland über Algorithmen schreibt. Eine Analyse des Mediendiskurses über Algorithmen und Künstliche Intelligenz (2005–2020). Bertelsmann Stiftung. https://www.bertelsmann-stiftung.de/de/publikationen/publikation/did/wie-deutschland-ueber-algorithmen-schreibt?no_cache=1

---

Gapski, H. (2021). Künstliche Intelligenz (KI) und kritische Medienbildung. Reflexionen aus kommunikationswissenschaftlicher Perspektive. https://digid.jff.de/kuenstliche-intelligenz-und-kritische-medienbildung-harald-gapski/

---

Kieslich, K., Lünich, M., Marcinkowski, F., & Starke, C. (2019). Hochschule der Zukunft – Einstellungen von Studierenden gegenüber Künstlicher Intelligenz. Düsseldorf Institut for internet and democracy. https://diid.hhu.de/wp-content/uploads/2019/10/DIID-Precis_Kieslich-et-al_Fin.pdf

---

Lamla, J. (2021). Kritische Bewertungskompetenzen. Selbstbestimmtes Verbraucherhandeln in KI-gestützten IT-Infrastrukturen. https://digid.jff.de/kritische-bewertungskompetenzen-joern-lamla/

---

Long, D., & Magerko, B. (2020). What is AI Literacy? Competencies and Design Considerations. In R. Bernhaupt, F. ‚F.‘ Mueller, D. Verweij, J. Andres, J. McGrenere, A. Cockburn, I. Avellino, A. Goguey, P. Bjørn, S. (S.) Zhao, B. P. Samson, & R. Kocielnik (Hrsg.), Proceedings of the 2020 CHI Conference on Human Factors in Computer Systems (S. 1-16). ACM.

---

Marci-Boehncke, G., & Rath, M. (2020). Ein Blick auf die ‚Hinterbühne‘. Ethische und pädagogische Überlegungen zum Umgang mit Künstlicher Intelligenz. merz. Medien + Erziehung. Zeitschrift für Medienpädagogik, 64(5), 30-35.

---

Pfeiffer, S. (2020). Kontext und KI: Zum Potenzial der Beschäftigten für Künstliche Intelligenz und Machine-Learning. HMD Praxis der Wirtschaftsinformatik, 57(3), 465–479. https://doi.org/10.1365/s40702-020-00609-8

---

Stubbe, J., Schaat, S., & Ehrenberg-Silies, S. (2019). Digital souverän? Bertelsmann Stiftung. https://doi.org/10.11586/2019035

---

Stürz, R. A., Stumpf, C., & Mendel, U. (2020). Künstliche Intelligenz verstehen und gestalten – Ergebnisse und Implikationen einer bidt-Kurzbefragung in Deutschland.

---

Wieland, M., & Au, A.-M. i. d. (2017). Facebook als „Straße durch das Internet“. Politisches Informieren zwischen Automatisierung und Nutzungsreflexion. kommunikation @ gesellschaft, 18, 1-13. https://nbn-resolving.org/ urn:nbn:de:0168-ssoar-51498-6

---

Williams, R., Park, H. W., & Breazeal, C. (2019). A is for artificial intelligence: the impact of artificial intelligence activities on young children’s perceptions of robots. In S. Brewster, G. Fitzpatrick, A. Cox & V. Kostakos (Hrsg.), CHI 2019: Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, May 4-9, 2019, Glasgow, Scotland UK (S. 1-11). ACM.

---

Prof. Dr. Dagmar Hoffmann ist Professorin für Medien und Kommunikation sowie Gender Media Studies an der Philosophischen Fakultät der Universität Siegen. Ihre Forschungsschwerpunkte sind: Mediensozialisation/-aneignung, digitale Kompetenzen, Bild- und Medienpraktiken im Social Web und Social Commerce, Jugend- und Gendermedienforschung, Körper- und Kultursoziologie sowie politische Partizipation und Empowerment.

Dr. Laura Sūna ist wissenschaftliche Mitarbeiterin an der Universität Siegen. Ihre Forschungsschwerpunkte sind: migrantische Medienaneignung, digitale und KI-bezogene Kompetenzen, Vergemeinschaftungen, Emotionen und Affekte sowie Jugendkulturen.