05

„Ziemlich gruselig“

05

„Ziemlich gruselig“

Warum weiß Instagram, wo man gestern Burger gegessen hat? Woher hat TikTok die Information, dass man diese Person kennt? Manche Jugendliche finden es gruselig, wie algorithmische Empfehlungssysteme in Social-Media-Apps arbeiten. Und nun? Augen zu und durch? Nein! Augen auf und sich mit dem Thema auseinandersetzen. Denn in diesem Gruselgefühl steckt das Potenzial, Bildungsprozesse anzuregen und somit die Medienkompetenz Jugendlicher zu fördern. Wie das funktionieren kann und was der transformatorische Bildungsbegriff damit zu tun hat, erfahren Sie in diesem Text.

„Das ist ein bisschen gruselig eigentlich!“ Mit dieser Einschätzung ist die 17-jährige Katha (die genutzten Namen sind Pseudonyme) nicht allein. Auch andere Jugendliche, die wir in unserer qualitativen Studie zum Umgang mit algorithmischen Empfehlungssystemen befragt haben, finden die Arbeit ebendieser Systeme „gruselig“. Das machen sie an unterschiedlichen Erfahrungen fest.

Manche Jugendliche finden es unheimlich, wenn sie den Eindruck haben, dass Apps wie Instagram oder TikTok auf ihr Mikrofon zugreifen und ihnen entsprechend den Gesprächsinhalten Werbung vorschlagen. Zudem fühlen sich manche Jugendlichen unwohl, wenn sie das Gefühl haben, dass ihnen Werbung aufgrund ihres Suchverhaltens bei Google gezeigt wird. So schildert beispielsweise die 14-jährige Maria:

„Also einmal war es nur krass, also ich war halt gestern mit paar Leuten im ‚Hans im Glück‘ essen gehen und da habe ich halt die Adresse gegoogelt und dann hatte ich danach so eine Werbung für ‚Hans im Glück‘, das war dann irgendwie gruselig dann im Moment.“

Dass Jugendliche personalisierte Online-Werbung, die ihnen „durch das Internet folgt“, gruselig finden, zeigt auch eine Studie von Iske/Wilde (2018) [1] . Obwohl – den Studienergebnissen zufolge – die Jugendlichen häufig keine Kenntnisse über dahinterliegende Mechanismen und Strukturen haben, sehen sie einen Zusammenhang zwischen Werbungsvorschlägen und dem eigenen Suchverhalten auf Google oder auf Shopping-Websites. Zum Teil nehmen die Jugendlichen an, dass Absprachen zwischen verschiedenen Websites bestehen. Sowohl in dieser als auch in unserer Studie haben die Jugendlichen den Eindruck, dass das Empfehlungssystem zu viel von ihnen weiß oder dass es nicht klar ist, woher das System bestimmte Informationen hat.

Als gruselig wird jedoch nicht nur personalisierte Online-Werbung empfunden, sondern auch, wenn die Apps Kontakte zu Personen vorschlagen, die ihnen zwar persönlich bekannt sind, mit denen sie bisher bei TikTok oder Instagram aber noch keinen Kontakt hatten. Sam, 13 Jahre, schildert Folgendes:

„[…] desto mehr ich halt drauf [auf Instagram] bin so, sehe ich, ja, da sind noch Leute, die ich kenne. Und das wird mir dann manchmal zum Beispiel vorgeschlagen, was ich ziemlich gruselig finde eigentlich, dass Instagram dann manchmal schon weiß, dass ich die kenne. Weil, ich schätze mal, weil WhatsApp auch von Facebook ist und irgendwie, keine Ahnung, ich weiß nicht, wie die das machen, aber die wissen halt, wen ich kenne. Das ist ein bisschen, das ist ziemlich gruselig.“

Auch hier scheint die Person den Eindruck zu haben, dass das algorithmische Empfehlungssystem auf der Grundlage von Informationen operiert, von denen sie nicht klar nachvollziehen kann, woher das System diese Informationen hat, und benennt den Datenaustausch zwischen verschiedenen Unternehmen als mögliche Erklärung dafür.

Gruselig … was steckt hinter diesem Gefühl?

„Ziemlich gruselig.“ Das könnte auch die positive Bewertung eines Horrorfilms sein. Denn: Gruselige Erlebnisse können zugleich beängstigend und faszinierend sein. Nicht umsonst finden viele Kinder Geistergeschichten und Nachtwanderungen großartig. Und auch im Erwachsenenalter sind viele von Thriller-Romanen, Horrorfilmen, True-Crime-Podcasts und gar grauenhaften Unfallereignissen fasziniert. Der Sozialpsychologe Siegbert Warwitz (2021) [2] erklärt das – neben der Lust nach Sensation – mit dem Phänomen der Neugier und verweist auf das Gefühl von Glück, wenn eine beängstigende Situation bewältigt oder etwas Unheimliches und Unbekanntes ergründet wurde.

Apps mit algorithmischen Empfehlungssystemen: Grusel ohne Ende?

Die befragten Jugendlichen nutzen die Apps mit algorithmischen Empfehlungen gern: Die vorgeschlagenen Inhalte unterhalten und informieren sie, die Interaktion mit Freund*innen oder das Produzieren von eigenen Inhalten bereitet ihnen Freude. Der situative Grusel, die Angst vor und Neugier auf das, wodurch das algorithmische System sie vermeintlich so gut kennt, scheint durch diese lustvollen Tätigkeiten aufgewogen zu werden. Das Unheimliche bleibt also entweder unergründet oder es werden subjektive Theorien entwickelt, wie personalisierte Werbung oder Personenvorschläge möglich sind. Bleibt die Nutzung von Apps mit algorithmischen Empfehlungssystemen ein Grusel ohne Ende? Oder steckt in diesem Gefühl auch die Möglichkeit, Bildungsprozesse über algorithmische Empfehlungssysteme und Datenschutz anzustoßen?

Bildung durch Irritationsmomente: eine theoretische Annäherung

Nähern wir uns dem Phänomen von einer theoretischen Perspektive, so kann der transformatorische Bildungsbegriff Hinweise geben, wie das Gruselgefühl der Jugendlichen für Bildungsprozesse genutzt werden kann. Eine zentrale Aussage dieses Bildungsbegriffs ist, dass Irritation als Voraussetzung und Bedingung von Bildungsprozessen gesehen werden kann (Bähr et al. 2019 [3] ; Dobmeier/Wulftange 2017 [4] ). Aber wie genau lässt sich dieser Zusammenhang von Irritation und Bildung erklären? Bourdieu stellte schon 1987 fest, dass Menschen die Tendenz haben, in ihren bestehenden Welt- und Selbstverständnissen zu bleiben. Kommt also etwas Fremdes in unsere Denkstrukturen, entsteht zunächst Irritation. Auf diesen Irritationsmoment folgt eine Einordnung des Fremden, die auch unsere Reaktion und unser Handeln bestimmt: Ordnen wir das Fremde als bedrohlich ein, wehren wir es ab. Stellen wir allerdings die Faszination bzw. das Interesse an etwas Fremdem in den Vordergrund, kann es zu kreativen Antworten und Neuschöpfungen kommen: Bildungsprozesse können entstehen (Bähr et al. 2019).

Medienkompetenz fördern und Jugend-Datenschutz stärken

Der Umgang mit Irritationsmomenten – in diesem Fall dem Gruselgefühl – ist also zentral für die Frage, ob Bildungsprozesse stattfinden oder nicht. Eine Grundlage für den selbstbestimmten und reflektierten Umgang mit ebendiesen Gruselmomenten ist Medienkompetenz. Doch auch wenn die Ergebnisse unserer qualitativen Untersuchung Hinweise für die pädagogische Arbeit mit Jugendlichen geben, reicht Medienkompetenzförderung in Bezug auf algorithmische Empfehlungssysteme in Social-Media-Apps nicht aus, um Jugendlichen ein selbstbestimmtes Medienhandeln zu ermöglichen. „Dort, wo Medien Selbstbestimmung strukturell nicht zulassen – etwa bei intransparenter Datensammlung oder manipulativer Steuerung –, lässt sich ein objektiv selbstbestimmter Medienumgang auch durch Kompetenzförderung nicht annähernd erreichen“ (Brüggen et al. 2022, S. 94) [5] . Bildung und Medienkompetenzförderung müssen durch Datenschutz flankiert werden. Gerade die große Bedeutung der angedeuteten Nutzungsmotive der Jugendlichen verweist auf diese strukturelle Ebene, die Hand in Hand mit der Förderung von Medienkompetenz gehen muss.

Wie wir Irritationsmomente für die Bildungsarbeit nutzen können

Medienkompetenz wird verstanden als die „Befähigung zur souveränen Lebensführung in einer mediatisierten Gesellschaft“ (Schorb/Wagner 2013) [6] . Medienkompetenz umfasst, wie im Rahmenkonzept von Digitales Deutschland dargestellt, neben den instrumentellen Bedienfertigkeiten vor allem auch die Dimension des medienbezogenen Wissens um Strukturen und Funktionen, die Dimension des Bewertens nach ethisch-sozialen und ästhetischen Maßstäben, die Orientierungsfähigkeit als Fähigkeit, mediale Phänomene und das eigene Medienhandeln einzuordnen, sowie die Dimension des kreativen Handelns und die affektive Dimension. Letztere beinhaltet unter anderem die Fähigkeit, Emotionen im Umgang mit Medien zu erleben und zu verarbeiten. Ausgehend von den dargestellten Einblicken in die qualitative Studie lassen sich Ansatzpunkte für eine Förderung von Medienkompetenz in Bezug auf algorithmische Empfehlungssysteme formulieren. Zum einen sollten Jugendliche dabei unterstützt werden, ihre Irritation ernst zu nehmen, zu reflektieren und als Anlass zur Entwicklung einer kritischen Haltung gegenüber algorithmischen Empfehlungssystemen und den dahinterliegenden Datenpraktiken der anbietenden Unternehmen zu nehmen. Beschriebene Emotionen stellen zudem einen Anlass dar, mit anderen in einen Austausch über Erfahrungen und zugrunde liegenden Bedingungen und Wertvorstellungen zu gehen. Zugleich gilt es aber auch, unbegründete Ängste aufzufangen oder Fantasien von einer möglichen Totalüberwachung zu differenzieren. Dies kann mithilfe konkreter Einblicke in technische und statistische Grundlagen der Datenverarbeitung und -erfassung sowie durch die Reflexion der gesellschaftlichen Folgen realisiert werden. Die Wünsche der befragten Jugendlichen und die dem Grusel immanente Faszination an unbekannten Funktionsweisen und Strukturen weisen auf ein Interesse bezüglich dieser Fragestellungen hin. Dementsprechend bietet diese Faszination einen Ausgangspunkt, sich aktiv und spielerisch mit den algorithmischen Empfehlungssystemen auseinanderzusetzen. So können Jugendliche zum Beispiel ein neues Selbst- und Weltverständnis entwickeln, indem sie experimentieren und probieren, die Systeme bewusst zu beeinflussen (z. B. auf Instagram aktiv nach Beauty-Produkten suchen, wenn sich die üblicherweise vorgeschlagenen Inhalte um Sport drehen).

Beim nächsten Gruselmoment also: Augen zu und durch? Nein! Für pädagogische Fachkräfte können diese Erfahrungen der Jugendlichen Anlässe bieten, die Medienkompetenz Jugendlicher zu fördern und sich aktiv in der Debatte um Kinder- und Jugend-Datenschutz zu engagieren. Denn bei ernsthaftem Nutzungsinteresse dieser Apps bleibt den Jugendlichen bisher keine Alternative, als sich auf Intransparenz und ein gewisses Maß an Fremdbestimmung einzulassen – und damit auf unzählige Möglichkeiten, sich unfreiwillig zu gruseln.

Literatur

  1. Iske, Stefan/Wilde, Katrin (2018). Online-Werbung aus der Perspektive Jugendlicher. Subjektive Relevanzen, Bewertungen und Überzeugungen. Magdeburg: Otto-von-Guericke-Universität Fakultät für Humanwissenschaften Institut I Bildung Beruf und Medien. doi:10.24352/UB.OVGU-2018-668
  2. Warwitz, Siegbert A. (2021). Sinnsuche im Wagnis. Leben in wachsenden Ringen: Erklärungsmodelle für grenzüberschreitendes Verhalten. 3., unveränderte Auflage. Baltmannsweiler: Schneider Verlag Hohengehren GmbH.​
  3. Bähr, Ingrid/Gebhard, Ulrich/Krieger, Claus/Lübke, Britta/Pfeiffer, Malte/Regenbrecht, Tobias/Sabisch, Andrea/Sting, Wolfgang (Hrsg.) (2019). Irritation als Chance. Bildung fachdidaktisch denken. Wiesbaden: Vieweg.
  4. Dobmeier, Florian/Wulftange, Gereon (2017). Fremdes – Angst – Begehren. Annäherungen an eine Theorie transformatorischer Bildungsprozesse. Bielefeld: transcript 2016. doi:10.25656/01:20875
  5. Brüggen, Niels/Dreyer, Stephan/Gebel, Christa/Lauber, Achim/Materna, Georg/Müller, Raphaela/Schober, Maximilian/Stecher, Sina (2022). Gefährdungsatlas. Digitales Aufwachsen. Vom Kind aus denken. Zukunftssicher handeln. Band 2. Bonn: Bundeszentrale für Kinder- und Jugendmedienschutz, (im Erscheinen).
  6. Schorb, Bernd/Wagner, Ulrike (2013). Medienkompetenz – Befähigung zur souveränen Lebensführung in einer mediatisierten Gesellschaft. In: Bundesministerium für Familie, Senioren, Frauen und Jugend (Hrsg.). Medienkompetenzförderung für Kinder und Jugendliche. Eine Bestandsaufnahme. Wiesbaden: Springer VS.

Zitation

Schober, M.; Tausche, S. 2022: „Ziemlich gruselig“. Im Rahmen des Projektes Digitales Deutschland. Online verfügbar: https://digid.jff.de/magazin/emotionen/gruselig/.

Kompetent
EDITORIAL

Emotionen

Das Editorial leitet Sie durch die dritte Magazinausgabe zum Thema Emotionen.

01

Fünf Fragen aus dem Netz

Was interessiert Internetnutzer*innen, wenn es um Emotionen geht? Wir liefern Antworten auf häufig gestellte Fragen.

02

Affektiv kompetent

Emotionen, Affekte und Medienkompetenz – wie gehört das zusammen? Mit Blick auf das Rahmenkonzept von „Digitales Deutschland“ gehen Laura Cousseran und Dr. Niels Brüggen der Frage nach, welche Fähigkeiten als Teil der affektiven Kompetenzdimension verstanden werden können.

03

Online-Kommentare zu KI – zwischen Angst und Hoffnung

Instagram, Facebook, YouTube, Spiegel-Online: Dr. Laura Sūna und Prof. Dr. Dagmar Hoffmann stellen vor, welche Emotionen sich bezüglich KI in Online-Kommentaren zeigen.

04

Spielen, Schwelgen, Lieben und Scherzen

Prof. Dr. Anja Hartung-Griemberg beschreibt Facetten des emotionalen Umgangs Älterer mit digitalen Medien.

05

„Ziemlich gruselig“

Wie Emotionen von Jugendlichen zu algorithmischen Empfehlungssystemen in der Bildungsarbeit genutzt werden können, erklären Maximilian Schober und Sandrine Tausche in diesem Beitrag.

06

Wissen, Gefühle und ihr Einfluss auf soziales Handeln

Die Soziologin Dr. Elgen Sauerborn legt dar, wie unser Wissen und unsere Gefühle sich gegenseitig und unser soziales Handeln in digitalen Räumen beeinflussen.

07

Der Umgang mit Emotionen im digitalen Zeitalter

Eigene Emotionen erkennen und regulieren: Welche Möglichkeiten und Grenzen digitale Medien mit sich bringen, erklärt uns Prof. Dr. Sven Barnow, Leitung der Klinischen Psychologie und Psychotherapie an der Universität Heidelberg.

08

„Er kann sich nicht verlieben, er ist ein Roboter, ein Algorithmus“

Die Geschichte einer 40-jährigen Frau, die sich in einen Roboter verliebt: ein Interview mit Fernsehproduzentin Katja Herzog und der Drehbuchautorin Eva Lia Reinegger.

09

Hassen, mitfühlen, mobilisieren

Prof. Dr. Margreth Lünenborg, Professorin für Kommunikationswissenschaft mit Schwerpunkt Journalistik, wirft einen Blick auf die affektive Kommunikation mit digitalen Medien.

10

Begriffe2go

Unser Team liefert verständliche Erklärungen zu Begriffen, die im Zusammenhang mit Emotionen häufig auftauchen.

11

Lieber Mensch

In einer fiktiven Botschaft an uns Menschen stellen sich unsere Emotionen vor und interessieren sich dafür, wie wir mit ihnen umgehen.

Feedback