CAIL – Critical AI Literacy – Kritische Technikkompetenz für konstruktiven Umgang mit KI-basierter Technologie in Betrieben
Kurzbeschreibung
Der vorliegende Beitrag befasst sich damit, welche Folgen der Einsatz KI-basierter Technologie in Betrieben hat: Wie verändert sich dadurch Arbeit, die vor allem geistige Anstrengungen erfordert? Und welche Herausforderungen sind damit verbunden? Dies wird anhand ausgewählter Berufsfelder, beispielsweise der Medizin, dem Journalismus oder dem Schulwesen, veranschaulicht. Anschließend wird erläutert, warum kritische KI-Kompetenzen entscheidend werden, um Potenziale zu erkennen, Risiken zu bewerten und Künstliche Intelligenz sozialverträglich und konstruktiv einzusetzen. Die Arbeit schlägt dafür das Modell einer “Critical AI Literacy” vor. Zentrale Voraussetzungen für eine konstruktive Nutzung sind Fachexpertise, Problembewusstsein sowie die aktive Mitgestaltung dessen, wie und wofür Künstliche Intelligenz in Unternehmen eingesetzt wird. Um betriebliche und individuelle Handlungsfähigkeit zu stärken, ist die Etablierung einer Critical AI Literacy entscheidend. Diese befähigt dazu, den Einsatz von KI-Technologien kompetent zu bewerten, zu gestalten und in der Praxis sinnvoll umzusetzen. Dafür liefert der Text Handlungsempfehlungen für Betriebe, was bei der Einführung von Künstlicher Intelligenz beachtet und mit allen Anwender*innen diskutiert werden sollte.
Annahmen über die Folgen der Digitalisierung
Künstliche Intelligenz bringt langfristig ein enormes Transformationspotenzial mit sich und wird unterschiedliche Gesellschaftsbereiche durchdringen. Dennoch sollte Künstliche Intelligenz immer in einem sinnvollen Maß angewendet werden und im Verhältnis zu den jeweiligen Anforderungen stehen. Denn die Frage nach dem Mehrwert von Künstlicher Intelligenz ist immer auch eine Frage des Mehraufwands durch Künstliche Intelligenz. Wird darauf keine Rücksicht genommen, kann Künstliche Intelligenz die Qualität von Arbeit sogar verschlechtern. In Zukunft müssen auch Menschen ohne technische Expertise Systeme Künstlicher Intelligenz verstehen und hinterfragen können, wenn sie diese verwenden.
Kompetenzanforderungen
Anwender*innen von Künstlicher Intelligenz sollten beurteilen können, inwieweit ein KI-System zuverlässig funktioniert, korrekte, plausible oder ausreichend genaue Ergebnisse produziert und unter welchen Voraussetzungen die Ergebnisse verwendbar oder nicht mehr verwendbar sind. Die Anforderungen werden unter der Überschrift “Kompetenzdimensionen” ausführlicher beschrieben.
Kompetenzbegriffe (nach dem Papier)
Unterdimensionen (nach dem Papier)
Basiswissen und Problembewusstsein,
Interpretationsfähigkeit,
Bewältigungsfähigkeit
Kompetenzdimensionen (nach dem Rahmenkonzept von Digitales Deutschland)
Kognitive Dimension: Das Verhalten von KI-Systemen, KI-generierte Inhalte und Ergebnisse erkennen und verstehen; Korrektheit und Plausibilität von Ergebnissen überprüfen; Problemlösungskompetenz im Umgang mit unklarem Systemverhalten, fehlerhaften, irreführenden oder fragwürdigen Ergebnissen; Basiswissen und Problembewusstsein über den praktischen Nutzen und die Grenzen von KI-basierten Technologien.
Kritisch-reflexive Dimension: Problemlösungskompetenz im Umgang mit unklarem Systemverhalten, fehlerhaften, irreführenden oder fragwürdigen Ergebnissen; den praktischen Nutzen und die Akzeptabilität von KI-Ergebnissen beurteilen können; Ergebnisse verwenden oder verwerfen, korrigieren und ggf. eine weitere Überprüfung des KI-Systems als informierte, bewusste Entscheidung veranlassen; Problembewusstsein über den praktischen Nutzen und die Grenzen von KI-basierten Technologien; die Aussagekraft und den situativen Kontext von KI-generierten Inhalten und Ergebnissen einschätzen können.
Zentrale theoretische Annahmen über Kompetenz
Es gibt unterschiedliche Literacy-Konzepte, die sich jedoch in gewissen Punkten überschneiden, zum Beispiel Technological Literacy, Computer Literacy oder Media Literacy. KI-bezogene Literacy ist dahingehend besonders, dass sie sich auf die neuen Anforderungen bezieht, die durch den Einsatz Künstlicher Intelligenz entstehen. AI Literacy wird oft „als Kompetenz beschrieben, die Individuen befähigt, KI-Technologien zu verstehen, um sie effektiv und verantwortungsvoll zu nutzen“ (S. 62). Mit dem Begriff Critical AI Literacy wird betont, dass Kompetenz nicht auf die bloße Nutzung Künstlicher Intelligenz reduziert werden sollte. Oft wird der Eindruck vermittelt, der Einsatz von Künstlicher Intelligenz sei zwingend notwendig – ohne Raum für kritische Reflexion. Es braucht allerdings grundlegende kritische Kompetenzen, um den tatsächlichen Nutzen von KI-Anwendungen einschätzen zu können. Eine Voraussetzung dafür ist die Stärkung der Handlungskompetenz von Nutzer*innen. Sie beschreibt die Fähigkeit, die grundlegende Funktionsweise eines KI-Systems sowie dessen Eignung oder Untauglichkeit für bestimmte Anwendungsfelder zu verstehen. Auch Personen ohne tiefgehende technische Kenntnisse sollten in der Lage sein, KI-Systeme zu verstehen, anzuwenden sowie deren Ergebnisse kritisch einzuordnen. Besonders wichtig erscheint also der Aufbau von Bewusstsein, Wissen und praktischer Erfahrung im Umgang mit KI-Technologien – insbesondere in Hinblick auf deren Potenziale, Grenzen und Risiken. Das ist entscheidend für einen sinnvollen, verantwortungsvollen und sozialverträglichen Einsatz Künstlicher Intelligenz in der Arbeitswelt.
Perspektive der Kompetenzträger*innen auf Kompetenz einbezogen?
Die Ergebnisse des vorliegenden Beitrags wurden mit Betriebsrät*innen und Arbeitsexpert*innen diskutiert. So wird die Perspektive der Kompetenzträger*innen einbezogen.
Lebenskontexte der Kompetenzträger*innen einbezogen?
In den Beitrag werden Erfahrungen aus verschiedenen Anwendungsbereichen einbezogen, vor allem durch zwölf leitfadengestützte Interviews mit Expert*innen aus Branchen wie dem Journalismus, der Informatik, dem Finanzwesen, dem Gesundheitswesen, aus der betrieblichen Interessensvertretung und dem Bildungswesen.
Herausforderungen der Erfassung von Kompetenz
keine Angabe
Quellenangabe
Stefan Strauß. (2024). CAIL - Critical AI Literacy: Kritische Technikkompetenz für konstruktiven Umgang mit KI-basierter Technologie in Betrieben. Institut für Technikfolgen-Abschätzung. https://epub.oeaw.ac.at/?arp=0x003f893c
Sonstige Anmerkungen
Der Beitrag liefert abschließend Handlungsempfehlungen für Betriebe, die noch wenig Erfahrung mit KI-basierten Technologien haben und sich einen Überblick verschaffen wollen, welche Faktoren es bei der Entscheidung zu beachten gilt, ob und wie ein KI-System eingeführt werden soll. Um Critical AI Literacy innerbetrieblich zu stärken, wird zudem ein Bewertungsrahmen angeboten, mit dem sich ein Grundverständnis über den Einsatz Künstlicher Intelligenz und damit verbundene Herausforderungen gewinnen lässt.