Migrants‘ imaginaries and awareness of discrimination by artificial intelligence: A conceptual framework for analysing digital literacy

Kurzbeschreibung

Welche Fähigkeiten benötigen Migrant*innen, um mit Technologien Künstlicher Intelligenz selbstbestimmt umgehen zu können? Dieser Frage geht die Autorin im vorliegenden Beitrag nach. Dabei wird ein konzeptioneller Rahmen – die "AI imaginaries" – vorgestellt, womit sich erheben lässt, inwiefern sich Migrat*innen potenzieller Diskriminierung durch Künstliche Intelligenz bewusst sind bzw. diese wahrnehmen. Gemeint sind damit subjektive Vorstellungen, was Technologien Künstlicher Intelligenz sind, was sie können und was sie tun sollten. Diese subjektiven Theorien entwickeln sich auf der Basis von Wahrnehmung und Wissen, Einstellungen sowie Gefühlen bezüglich Künstlicher Intelligenz. Je nachdem welche Erfahrungen Menschen sammeln, wenn sie Systeme Künstlicher Intelligenz nutzen, entwickeln sie eigene subjektive Theorien bzw. passen diese an. Angelehnt an das Konzept der AI imaginaries werden für Digitalkompetenz relevante Fähigkeiten abgeleitet. An die Forschung richtet sich dabei die Empfehlung, neben Wissen und Wahrnehmung auch Gefühle, Einstellungen und Bewertungen von Künstlicher Intelligenz stärker zu berücksichtigen.

Annahmen über die Folgen der Digitalisierung

Zahlreiche Technologien, die auf Künstlicher Intelligenz basieren, reproduzieren beispielsweise Stereotype und tragen somit zur digitalen Ungleichheit bei. Zugleich sind sich Nutzende selten der algorithmischen Kuratierung bewusst oder sehen nicht das Problem der Diskriminierung. Eine informierte, reflektierte und kritische Sichtweise auf Künstliche Intelligenz ist allerdings für ein selbstbestimmtes Leben mit digitalen Medien unumstößlich – gerade für Gruppen, die leichter von Diskriminierung betroffen sein können, wie zum Beispiel Migrant*innen.

Kompetenzanforderungen

keine Angabe

Kompetenzdimensionen

Instrumentell-qualifikatorische Dimension: digitale Medien nutzen können.

Kognitive Dimension: Wissen über Systeme Künstlicher Intelligenz und wie diese bewertet werden können; sich Technologien Künstlicher Intelligenz bewusst sein und diese wahrnehmen.

Affektive Dimension: emotional angemessen auf Medieninhalte und Systeme Künstlicher Intelligenz reagieren können.

Kreative Dimension: digitale Medien und Systeme selbstbestimmt und unabhängig (neu) gestalten können; das eigene Medienhandeln den AI imaginaries entsprechend anpassen.

Kritisch-reflexive Dimension: Wissen, wie Systeme Künstlicher Intelligenz bewertet werden können; Meinungen und Einstellungen zu Künstlicher Intelligenz entwickeln; Künstliche Intelligenz bewerten und darüber reflektieren.

Zentrale theoretische Annahmen über Kompetenz

Die Autorin definiert digitale Souveränität als Fähigkeiten und Möglichkeiten eines Individuums, das eigene Leben bei der Nutzung digitaler Medien kompetent, selbstbestimmt und sicher zu gestalten (S. 21). Um diese Souveränität zu erlangen bedarf es unterschiedlicher Fähigkeiten, nämlich instrumentell-qualifikatorischer, kognitiver, kritisch-reflexiver, kreativer, affektiver und sozialer. Jedoch bleiben soziale und affektive Kompetenzdimensionen in zahlreichen Kompetenzmodellen zu KI (Künstliche Intelligenz) oder algorithm literacy unberücksichtigt.

Perspektive der Kompetenzträger*innen auf Kompetenz einbezogen?

keine Angabe

Lebenskontexte der Kompetenzträger*innen einbezogen?

Die Autorin verweist darauf, dass AI imaginaries in kollaborativer Weise entstehen können. Zudem ist sind sie an den jeweiligen kulturellen und gesellschaftlichen Kontext gebunden und darüber hinaus geprägt durch öffentliche Diskurse, die zum Teil durch Technologiekonzerne dominiert werden. Ebenso ist digitale Souveränität nicht nur von Merkmalen des Individuums, sondern auch durch technische Gegebenheiten sowie soziale und gesellschaftliche Rahmenbedingungen geprägt. So ist die Handlungsmacht, die Menschen im Umgang mit Künstlicher Intelligenz haben, beispeispielsweise durch Strukturen verschiedener Plattformen beschränkt.

Herausforderungen der Erfassung von Kompetenz

keine Angabe

Quellenangabe

Sūna, L. (2023). Migrants´ imaginaries and awareness of discrimination by artificial inteligence: A conceptual framework for analysing digital literacy. In: B. Herlo & D. Irrgang (Hrsg.), Proceedings of the Weizenbaum Conference 2022: Practicing Sovereignity-Interventions for Open Digital Futures (S. 15-25). Weizenbaum Institute for the Networked Society - The German Internet Institute.