Diskriminierung durch Algorithmen – Überlegung zur Stärkung KI-bezogener Kompetenzen
Kurzbeschreibung
Der vorliegende Beitrag beschäftigt sich mit Risiken algorithmischer Systeme und Künstlicher Intelligenz. Algorithmen beeinflussen Entscheidungen in vielen Bereichen: sie sortieren Online-Suchergebnisse oder diagnostizieren Krankheiten. Studien zeigen, dass Nutzer*innen oft nicht wahrnehmen, wie algorithmische Systeme Inhalte kuratieren und Diskriminierung reproduzieren. Besonders vulnerable Gruppen wie Migrant*innen, Frauen oder ältere Menschen sind verstärkt von Desinformationen, Stereotypisierung und digitaler Ungleichheit betroffen. Der Beitrag untersucht Ursachen und Formen solcher Diskriminierung. Die Ursachen können sowohl in den verwendeten Daten, in Algorithmen selbst als auch in der Art und Weise liegen, wie diese verwendet werden. Die Autorinnen betonen, dass KI-bezogene Kompetenzen gestärkt werden sollten. Ziel ist es aufzuzeigen, wie digitaler Ungleichheit ausgesetzte Gruppen für Algorithmen-basierte Diskriminierung sensibilisiert und zu einem kompetenten Umfang ermächtigt werden können.
Annahmen über die Folgen der Digitalisierung
Algorithmische Systeme und Systeme Künstlicher Intelligenz treffen in verschiedenen Lebensbereichen Entscheidungen. Diese können für Individuen und soziale Gruppen weitreichende Konsequenzen haben. KI-basierte Entscheidungen sind jedoch oft intransparent und potenziell diskriminierend. Es steigt also auch das Risiko, manipuliert oder benachteiligt zu werden. Deshalb müssen Nutzer*innen die Kompetenz entwickeln, solche Mechanismen zu erkennen und zu hinterfragen.
Kompetenzanforderungen
Die Kompetenzträger*innen sollen sich Wissen über die Funktionsweise von KI-Anwendungen aneignen. Ebenso sollen sie ein Bewusstsein für die Allgegenwärtigkeit von Algorithmen-basierten und KI-getrieben Prozessen (z.B. in Apps, Chatbots oder auf Social-Media-Plattformen) entwickeln. Zudem sollten sie die Fähigkeit besitzen, KI-geprägte Entscheidungen kritisch und affektiv zu bewerten, sie zu hinterfragen und Konsequenzen für sich und die Gesellschaft einzuschätzen. Hinzu kommt die Fähigkeit, mit der Prägekraft von KI-Anwendungen umzugehen, diese gegebenenfalls kreativ zu beeinflussen sowie KI-Anwendungen sozial verantwortlich zu nutzen.
Kompetenzbegriffe (nach dem Papier)
Unterdimensionen (nach dem Papier)
Kognitive Dimension,
Affektive Dimension,
Handlungsdimension
Kompetenzdimensionen (nach dem Rahmenkonzept von Digitales Deutschland)
Instrumentell-qualifikatorische Dimension: Digitale Medien und Systeme bedienen.
Kognitive Dimension: Wahrnehmung und Bedeutungskonstruktion über Künstliche Intelligenz.
Affektive Dimension: Emotionale und affektive Einordung des Umgangs mit Künstlicher Intelligenz.
Kreative Dimension: kreativ mit KI-Technologien umgehen.
Kritisch-reflexive Dimension: Kritisch das Zustandekommen und die Funktion von algorithmischen Modellen in digitalen Medien einschätzen; gesellschaftliche Folgen solcher Modelle kritisch-reflexiv bewerten.
Zentrale theoretische Annahmen über Kompetenz
KI-Kompetenz wird nicht nur als reines Wissen über Künstliche Intelligenz verstanden, sondern auch als die Fähigkeit zur kritischen Reflexion und zum sozialverantwortlichen Einsatz von Künstlicher Intelligenz. Kompetenz wird dabei als ein Schutzmechanismus begriffen, der Nutzer*innen hilft, sich gegen algorithmische Diskriminierung zu wehren, indem sie beispielsweise ihre Daten kontrollieren, algorithmische Empfehlungen reflektieren und diskriminierende Prozesse identifizieren.
Perspektive der Kompetenzträger*innen auf Kompetenz einbezogen?
keine Angabe
Lebenskontexte der Kompetenzträger*innen einbezogen?
Vor allem sozial benachteiligte Personen – Frauen, Menschen mit Migrationshintergrund und Ältere – sind von Diskriminierung durch Algorithmen betroffen. Zugleich werden diskriminierende Potenziale von KI-Technologien im öffentlichen Diskurs kaum angesprochen (z.B. das Online-Profiling) bzw. es wird darüber noch zu wenig aufgeklärt.
Herausforderungen der Erfassung von Kompetenz
keine Angabe
Quellenangabe
Sūna, L., Hoffman, D., & Mollen, A. (2024). Diskriminierung durch Algorithmen: Überlegung zur Stärkung KI-bezogener Kompetenz. In S. Eder, H. Güneşli, R. Hillen, C. Wegener & R. Wienhold (Hrsg.), UnISichtbarkeiten? Medienpädagogik, Intersektionalität und Teilhabe (S. 3-22). Kopaed.