Kritische Bewertungskompetenzen

Veröffentlicht am 15.06.2021

Selbstbestimmtes Verbraucherhandeln in KI-gestützten IT-Infrastrukturen

Einleitung

Ziel der nachfolgenden Expertise ist es, den Zusammenhang von Verbraucherbildung, Selbstbestimmung und Künstlicher Intelligenz (KI) zu beleuchten. Welche Kompetenzen sind erforderlich, damit Verbraucherinnen und Verbraucher in einer digitalisierten Konsumwelt, die immer stärker von adaptiven, lernenden KI-Algorithmen durchzogen ist, selbstbestimmt handeln können? Und unter welchen Bedingungen werden solche Kompetenzen erworben? Um diese Fragen zu beantworten, wird der Fokus im Folgenden auf kritische Kompetenzen gelegt, die als Schlüsselelement selbstbestimmten (Verbraucher-)Handelns betrachtet werden.

Knapp formuliert ist der Grundgedanke, dass Selbstbestimmung eine spezifische Form des Verfügens über die Bewertungsmaßstäbe und -register voraussetzt, die dem eigenen Handeln und Entscheiden zugrunde liegen, nämlich kritische Kompetenz. Kompetenz im Verfügen über die Maßstäbe und Register des Bewertens, so lautet die erste These, bildet sich über Praktiken und Notwendigkeiten der Kritik und Rechtfertigung, die mit dem Handeln in konventionellen Ordnungen verbunden sind (Boltanski/Thévenot 2007, 2011; Celikates 2009; Jaeggi 2014). Ohne Zugänglichkeit, Reflexion und praktische Evaluation der dem Handeln zugrundeliegenden Konventionen – etwa, weil Bewertungen automatisiert oder als Klick-Routine vollzogen, durch Fakes fragmentiert oder mittels Aussonderung und Privatisierung von Konflikten der Rechtfertigung entzogen werden – leidet die für selbstbestimmtes Handeln wichtige Urteilskraft. Angezeigt ist folglich eine Untersuchung von Bewertungspraktiken in der digitalen Welt sowie insbesondere von deren Wandlungsdynamik angesichts der Zunahme des KI-Einsatzes.

Erst der Blick auf die Veränderungen der Praktiken und Situationen des Bewertens durch Digitalisierung und KI macht plausibel, warum dieser – zunächst sehr spezifisch und philosophisch-abstrakt wirkende – Zugang zum Thema von höchster Relevanz für die Zukunft selbstbestimmten Handelns ist: In Kontexten des Konsums und des Verbraucherhandelns wird das Einüben kritischer Kompetenzen durch gestaltete soziodigitale Architekturen des Bewertens und Kuratierens von Inhalten und der algorithmischen Entscheidungsunterstützung in hohem Maße überformt. Es wird zu einem Bestandteil hybrider Konstellationen, die zugleich dem Testen und Trainieren maschineller Bewertungsalgorithmen dienen, welche wiederum als technisches Artefakt auf das Verbraucherverhalten zurückwirken. Das ist zunächst weder ungewöhnlich noch an sich problematisch. Die Bedingungen der Genese und Reproduktion kritischer Kompetenzen werden aber verändert, so lautet die zweite These, wenn das Trainieren und die praktische Bewährung von Bewertungsalgorithmen nicht mehr an Situationen der Rechtfertigung gebunden sind, sondern auf Mechanismen rekursiver Verhaltensformung und ‑stabilisierung umgestellt werden und diese sich expansiv ausbreiten.

Inwiefern eine solche Verschiebung bereits stattfindet oder zukünftig wahrscheinlich wird und die Art und Weise verändert, in der die Nutzenden auf die Maßstäbe und Register ihres impliziten oder expliziten Bewertens zugreifen, soll hier eruiert werden.

Dafür werden in einem ersten Schritt die fachspezifischen Perspektiven einer pragmatischen Soziologie des Bewertens, der Konventionen und der Rechtfertigung sowie des Subjekts und der Selbstbestimmung vorgestellt,

bevor im zweiten Schritt die Praxis des Bewertens in Konsumkontexten sowie deren Überformung durch Digitalisierung und KI in Augenschein genommen werden.

Im letzten Schritt sollen Einschätzungen zum Entwicklungsverlauf vorgenommen und Ansätze zur Förderung kritischer Kompetenzen andiskutiert werden.

Kritische Bewertungskompetenzen

Ohne Frage bilden kritische Bewertungskompetenzen nur einen kleinen Ausschnitt jener vielfältigen Kompetenzen ab, die Handelnde benötigen, um selbstbestimmt in der digitalen Welt agieren zu können. Digital Literacy umfasst auch Nutzungswissen, kognitive Fähigkeiten, technisch-instrumentelle Fertigkeiten und bisweilen bestimmte affektive Dispositionen (vgl. JFF e.V. u.a. 2020: 5f.), die nicht vollständig im kritischen Bewerten aufgehen. Letzteres bezeichnet aber einen Kompetenzbereich, der als Nukleus selbstbestimmten Handelns besondere Aufmerksamkeit verdient. Er ist zudem mit anderen Aspekten in Situationen der digitalen Praxis auf eine Weise verwoben, die nicht gut zu erfassen ist, wenn er als kritische Reflexionsfähigkeit abstrakt über oder neben andere Kompetenzen gestellt wird. Gewiss sind auch Betrachtungen zur Ontogenese moralischer Urteilskompetenzen hilfreich, die in der Tradition von Mead, Piaget und Kohlberg herausarbeiten, wie allgemeine Dispositionen zur sozialen Perspektivenübernahme, zur Infragestellung von Konventionen im Lichte universeller Prinzipien und zur Selbstbindung an argumentative Zugzwänge und Begründungspflichten mit kommunikativer Verständigung im Medium der Alltagssprache verknüpft sind (Habermas 1983: 127-206). Aber formal-pragmatische Analysen, die auf moralische Dilemmata als typische Reflexions- und Begründungsherausforderungen fokussieren, sind von der realen Praxis der Kritik, des Bewertens und der Rechtfertigung zu weit entfernt, um empirisch gehaltvoll aufzeigen zu können, wie und unter welchen Bedingungen sich kritische Bewertungskompetenzen in Alltagssituationen bilden, auswirken und reproduzieren. Auch bleibt unbeantwortet, wie diese Kompetenzen sich qualitativ und gesamtgesellschaftlich verschieben, wieviel Bindungskraft sie aktuell mobilisieren und welchen Einfluss bestimmte Medien-Ökologien hierauf ausüben. Um bei diesen Fragen weiterzukommen, bietet sich der Rückgriff auf Theoriekonzepte und methodische Zugänge an, die als pragmatische Wende zu einer Soziologie der Kritik und Rechtfertigung, der Konventionen oder des Bewertens bekannt geworden sind (Dewey 1939; Diaz-Bone 2011; Meier/Peetz/Waibel 2016). Diese Ansätze überschneiden sich mit Forschungsimpulsen der Wissenschafts- und Technikforschung, in der die Rolle von Artefakten und Medien in der sozialen Praxis beleuchtet und damit nicht zuletzt auch der Blick auf das Subjekt des Handelns und die Bedingungen der Selbstbestimmung erweitert wird (Bauer/Heinemann/Lemke 2017). Diese Forschungsperspektiven sollen hier für den Diskurs um das gewünschte und erforderliche Kompetenzprofil im Digitalen Deutschland aufbereitet und empfohlen werden.

Bewerten und Rechtfertigen werden in den genannten Ansätzen nicht vorab auf spezielle Modi des situativen Handelns einerseits und der kritisch-kognitiven Reflexion andererseits aufgeteilt, sondern als Praxiszusammenhang betrachtet, der je nach Handlungssituation implizit bleiben oder aber problematisch und dann reflexiv werden kann. [1] Die pragmatische Soziologie der Konventionen argumentiert ferner, dass sich – ähnlich wie Walzer (1992) behauptet – historisch eine Pluralität von Rechtfertigungsordnungen herausgebildet hat, die eine Vielzahl an Bewertungen robust absichern, so dass in den entsprechenden Situationen reflexive Rechtfertigungen oft gar nicht erforderlich sind. Allerdings sind nicht alle Situationen so klar, dass die Gültigkeit eines bestimmten Rechtfertigungsregisters – etwa des Leistungsprinzips, der familiären Verpflichtung, der kalkulierenden Nutzenmaximierung oder der übersinnlichen Gnade und Inspiration – fraglos hingenommen werden kann. Oft treten „kritische Momente“ (Boltanski/Thévenot 2011: 43) in der Praxis auf, in denen die Situation dann entweder durch kritische Reinigung geklärt werden muss, in denen Kritik aber auch zu einer kompromissförmigen Verknüpfung oder Veränderung von Bewertungsmaßstäben führen kann. [2] Das empirisch variable Zusammenspiel von Pragmatik und Reflexion ist zentral für den hier zugrunde gelegten Begriff der kritischen Bewertungskompetenzen. Ebenso konstitutiv ist aber auch die Pluralität von Bewertungsordnungen und -registern. [3] Denn sie erst macht in kontroversen oder uneindeutigen Situationen alternative Register der Rechtfertigung zugänglich, vor deren Hintergrund Bewertungen und ihre konventionellen Grundlagen geprüft und ggf. verworfen oder modifiziert werden. Entsprechend soll unter kritischer Bewertungskompetenz hier eine Kompetenz verstanden werden, die kritisch ist, insofern sie Bewertungen und Bewertungsordnungen nicht nur praktisch anzuwenden, sondern deren Situationsangemessenheit vor dem Hintergrund der Pluralität und Kontingenz von Konventionen auch zu reflektieren und überprüfen vermag. Kompetent sind solche kritischen Prüfungen in dem Maße, wie sie in der praktischen Anwendung verschiedener Register der Bewertung geschult sind und ein entsprechendes Differenzbewusstsein oder Gespür für die pragmatischen Bedingungen konsistenter Geltendmachung von Konventionen erworben haben und darüber auch lernoffen bleiben.

Genese und Reproduktion kritischer Kompetenzen sind aus Sicht der pragmatischen Soziologie also an die Situationen der praktischen, d.h. oft impliziten und routineförmigen Verwendung dieser Kompetenzen gebunden, dabei aber zugleich auf Ungewissheiten, Kontingenzerfahrungen und kritische Momente angewiesen, die erst eine reflexive und explorative Haltung gegenüber dem Raum der Konventionen und Rechtfertigungen hervorrufen und entsprechende Fähigkeiten konstituieren. Hierbei spielen Elemente der Situationsrahmung – insbesondere in Gestalt von materiellen Objekten oder Grenzinfrastrukturen (Star/Ruhleder 1996) – eine wichtige Rolle: Spalten mit Preisen, Kommentare mit Sternen, Siegel mit grünen Blättern oder ineinander greifenden Händen, Indizes mit Punktwerten nehmen nicht nur Qualitätsbewertungen von z.B. Produkten oder Inhalten vor, sondern priorisieren dabei auch eine bestimmte Bewertungsordnung, in der jeweils andere Bewertungsregister aktiviert werden, etwa solche der Kosten-Nutzenmaximierung, der Prominenz (kommentiert zu werden zählt), der ökologischen oder sozialen Verantwortung oder aber der technischen Leistungsperformance. Spätestens diese theoretischen Verbindungen zu den Science and Technology Studies und speziell zur Akteur-Netzwerk-Theorie (ANT), die auf die handlungs- und ordnungsstabilisierenden Kräfte hybrider Konstellationen von Menschen und Nicht-Menschen abhebt (Latour 1991), machen deutlich, warum die Analyseperspektive für die Untersuchung des digitalen Medienwandels fruchtbar ist. Bevor dieser Faden aber weiterverfolgt wird, sei noch auf eine Konsequenz dieser Forschungsperspektive hingewiesen, die das Subjekt betrifft, welches zu selbstbestimmtem Handeln in medialen Umgebungen befähigt werden soll.

So wie die kritischen Kompetenzen nicht einfach vorausgesetzt werden können, sondern an hybride Situationen ihrer Hervorbringung durch Prüfung und Rechtfertigung gebunden sind, so ist auch das Subjekt des Handelns ein hybrides, muss folglich auch dessen Selbstbestimmung als abhängig von soziomateriellen Konstellationen gedacht werden und nicht als universell verfügbare, d.h. angeborene oder basal erworbene Ressource. Selbstbestimmung und die entsprechende Subjektform werden hier als spezifische Kompetenz des Verfügens über die dem Handeln impliziten Bewertungen und Bewertungsregister gefasst, und dieser Modus setzt wiederum voraus, dass entsprechende Zugänge in den soziomateriellen Konstellationen des Bewertens gegeben sind und deren Angewiesenheit auf kritische Prüfungen erfahrbar bleibt.

Es ist eine empirische Frage, inwiefern diese Bedingungen erfüllt sind. Einerseits durchlaufen Subjekte biografisch vielfältige Handlungssituationen, die kritische Momente bereithalten und die Kompetenz zur Prüfung und Exploration konventioneller Handlungsrahmen schulen. Insofern ist bei aller Gerichtetheit von medialen Entwicklungen mit unterschiedlichen Subjekttypen und einer Varianz an kritischen Kompetenzen zu rechnen. Andererseits kann nicht vorausgesetzt werden, dass die Gesellschaft schon aufgrund ihrer Komplexität, ihrer Erziehungs‑, Sozialisations- und Bildungsmethoden oder der fortgesetzten Verwendung von Alltagssprache jene Kompetenz robust und breit bereitstellt. Das Ausmaß, in dem praktische Krisenerfahrungen und Urteilsungewissheiten mit Rechtfertigungen und kritischen Prüfungen verknüpft sind, ist empirisch und historisch ebenfalls variabel: Gesellschaftliche Zustände, in denen Situationen durch Kraftproben geklärt werden, sich diskursive Geltungsprüfungen von der Handlungspraxis abkoppeln und tiefe Mind-Behavior-Gaps hinterlassen, kognitive Dissonanzen sodann psychodynamisch glattgebügelt oder kommunikative Gewohnheiten eines zivilen und demokratischen Miteinanders gewaltsam überrannt werden, in denen paternalistische Techniken raumgreifen und mit der Abwehr gegen Fake News und radikale Ränder von der fortgeschrittenen Fragmentierung des Wissens und der Überzeugungen abgelenkt wird, sind kein theoretisches Hirngespinst, sondern beobachtbare Tendenzen. Die Reproduktion kritischer Bewertungskompetenzen und selbstbestimmter Subjekte ist mithin alles andere als trivial.w. (vgl. Boltanski/Thévenot 2007).

Konsumsubjekte, digitale Bewertungspraktiken und KI

Es besteht jedoch die Gefahr, dass die Zusammenhänge trivialisiert werden und übersehen wird, wie weitreichend die smarte, mimetische Digitalität, die sich mithilfe der KI und anderer Techniken ins soziale Leben einnistet, die Bedingungen der Selbstbestimmung transformiert. Dies gilt insbesondere für Bewertungspraktiken in digitalen Konsumkontexten. Hier gelten Bewertungsfragen als Privatsache, so dass Abbrüche kritischer Prüfungen und kommunikativer Rechtfertigungen gleichsam vorgesehen sind. In Konsumkontexten wird unterstellt, dass die Konsumsubjekte Souveräne ihrer Werturteile sind, und deshalb nicht näher hingeschaut, wie diese durch hybride Settings erst hervorgebracht werden. [4] Eine solche Souveränität kann sich jedoch ohne Situationen der kritischen Prüfung und Rechtfertigung schwerlich ausbilden und bleibt dann leeres Postulat (oder wird zu neoliberaler Ideologie). Zugleich werden Bewertungen in Konsumkontexten stark vervielfältigt, sodass sich Verbraucherinnen und Verbraucher einem unübersichtlichen Bewertungsdschungel gegenübersehen, der seinerseits erschwerte Bedingungen für das Platzieren und Erlernen kritischer Prüfungen mit sich bringt. Gewiss stellt dieser digitale Wildwuchs in der Konsumsphäre nicht alle Bewertungsordnungen auf den Kopf. Auch in der analogen Welt konkurrierten Markenwerbung, Statussymbole, Wohlfahrtsversprechen, Mund-zu-Mund-Propaganda, psychologische Marktforschung und etablierte Testinstitute um die Gunst der Verbraucherinnen und Verbraucher, ohne die Konsumkonventionen dabei einseitig festlegen zu können. Folglich scheint hier zunächst kein harter Bruch zwischen Offline- und Online-Shopping vorzuliegen, obgleich die Mitwirkung von Bewertungs-Bots und Click-Workern, das Format von Influencer-Videos, die Kuratierungsmacht von Plattformen und Suchmaschinen oder die umfassende Sofortverfügbarkeit all dieser Informationen durch das Internet die Bewertungslandschaft sichtlich angereichert haben. Dass in dieser Landschaft gleichwohl problematische Verschiebungen vonstattengehen, die auf ihre Folgen für die Kompetenzentwicklung hin auch deshalb beleuchtet werden sollten, weil sie auf andere Sphären der Selbstbestimmung – etwa der demokratischen Politik, der Bildung oder der Intimität – durchschlagen, hängt maßgeblich mit informationstechnischen Fortschritten auf Gebieten der Massendatenverarbeitung, Verhaltensbeobachtung und Künstlichen Intelligenz zusammen.

Digitale Bewertungspraktiken – gerade auch in den scheinbar ganz profanen Konsumkontexten – sollten mithin genauer analysiert werden. Die Soziologie hat angefangen, ihnen größere Aufmerksamkeit zu widmen (Mau 2017; Kropf/Laser 2019). Betrachtet man ihre soziotechnische Trajektorie, so erweisen sich die Kontinuitäten zur analogen Welt des Bewertens als durchaus ambivalent. Produkttests, Erfahrungsberichte, Sternchen und die Likes der Peers, aber auch Influencer-Videos oder algorithmisch generierte Preisvergleichstabellen stellen auf einer ersten Ebene Anschlüsse an die vordigitalen Konsumgewohnheiten her. Sie etablieren Konventionen im digitalen Raum, die den Markt sozial einbetten, Vertrauen stiften und Kunden binden, also den ökonomischen Austausch mit ermöglichen, antreiben, lenken, aber zugleich auch legitimieren (Lamla 2013: 270-350). Gleichzeitig liegen sie aber auch als Datenspuren vor, die auf einer zweiten Ebene als Trainingsmaterial für algorithmische Simulationen und Vorhersagemodelle oder für das Experimentieren mit digitalen Designs dienen, etwa um die Aufmerksamkeit der Verbraucherinnen und Verbraucher, d.h. die zeitliche Bindung an einen Dienst, eine Plattform oder ein Spiel zu maximieren (Zweig et al. 2019). Die Verknüpfung mit Marketing und Marktforschung, etwa im Rahmen von Shopping- und Meinungsplattformen, wurde früh etabliert (Lamla 2008). Aus impliziten und expliziten Bewertungspraktiken digitaler Plattformen und Konsumwelten lassen sich Kriterien für personalisierte Werbung, neue Produkte, aufkommende Trends usw. extrahieren und probabilistisch verwenden. Kurzum: Bewertungspraktiken sind – wichtiger – Bestandteil jener Transformationsdynamiken, die Zuboff (2018) für digitale Handlungsvollzüge allgemein beschrieben hat, deren Überwachung, d.h. zunächst Registrierung, Speicherung und Aggregierung anhand von Datenspuren, zur Entwicklung neuer Kapazitäten und Produkte der Verhaltensvorhersage und letztlich auch -steuerung führt. In ihnen werden soziale „Muster“ (Nassehi 2019) und Regelmäßigkeiten identifiziert, Eintrittswahrscheinlichkeiten berechnet und Randbedingungen isoliert, so dass über mehrere Schleifen und Variationen hinweg immer erfolgreicher die Resultate bestimmter Verhaltensimpulse und semantischer Codes eingeschätzt werden können – etwa wann es zu einer Straftat kommt oder unter welchen Voraussetzungen es bei der Partnersuche funkt.

Bewertungen lassen sich sehr gut auf solche Muster und Regelmäßigkeiten hin absuchen. Sie hierarchisieren im Konsumsektor Güter, Dienste, Bedürfnisse, Trends und auch Personen nach bestimmten Wertgesichtspunkten oder „Qualitätskonventionen“ (Eymard-Duvernay 1989). Gewiss macht es einen Unterschied, ob dabei die Schnäppchenjagd oder der Statussymbolwert, die Bequemlichkeit oder das Fitnessideal, die ästhetische Anmutung oder die ökologische Nachhaltigkeit die Bewertungsordnung dominieren. Das sind jene Kontingenzen, die typischerweise Grenzkonflikte zwischen verschiedenen Konventionen erzeugen und diese damit unter einen latenten Rechtfertigungsdruck setzen. Algorithmen können solche Unterschiede jedoch zu berücksichtigen lernen. Sie brauchen Kriterien für ihre berechneten Operationen, so dass sie die Regelmäßigkeiten und Muster spezifischer Bewertungsordnungen gut aufgreifen können. KI sorgt in diesem Zusammenhang dafür, dass solche algorithmischen Übersetzungen von Bewertungsordnungen nicht abgeschlossen sind, sondern durch die automatisierte Evaluation mittels laufender Bewährungsproben und Neubewertungen differenziert und verfeinert werden (Engemann/Sudmann 2018). Am Ende stehen komplexe Empfehlungssysteme und -algorithmen, die sich auf spezifische Nutzungssituationen und -typen immer besser einstellen und auf diese Weise die Konsumwelt nach Trefferwahrscheinlichkeiten kuratieren. Netflix und Spotify sind gute Beispiele (Kropf 2019). Da die digitale Ökologie mit ihren smarten Technologien und vernetzten Alltagsdingen immer mehr Bereiche der Lebenspraxis in eine permanente, KI-gestützte Trainingskonstellation einbindet, entsteht eine komplexe hybride Bewertungsinfrastruktur (Kornberger/Pflueger/Mouritsen 2017), in der die Maschinen nach und nach lernen, das Bewerten situationsangepasst zu übernehmen. Sie bewähren sich durch den faktischen Vollzug von Praxis (z.B. das Eintreten vorhergesagter Ereignisse, Abschlüsse von Kaufverträgen, Verbleib auf Webseiten oder Bestätigungen im Rahmen fortgesetzter Bewertungspraktiken) und erleichtern in vielen Bereichen das Leben. Doch wovon hängt dieser praktische Erfolg ab?

Diese Frage führt zum entscheidenden Argument, warum diese soziotechnische Transformationsdynamik – so schön die Entlastungseffekte auch sein mögen – die Kompetenz zum selbstbestimmten Handeln folgenreich verschiebt und zurückdrängt: Ihre verhaltensstabilisierenden Effekte und ordnungsstiftenden Konventionen lösen sich ab von der sozialen Praxis und Logik der Rechtfertigung. Die KI-Trainingskonstellationen der kommerziellen Konsumwelten sind ein Paradebeispiel für das, was Habermas (1981: 269-275) als Umstellung der handlungskoordinierenden Kräfte von rational motiviertem Vertrauen der Teilnehmenden einer lebensweltlichen Kommunikationspraxis auf empirisch motivierte Bindungen in kybernetischen Systemzusammenhängen bezeichnet und auf seine kolonialisierenden Effekte und pathologischen gesellschaftlichen Folgen hin beleuchtet. KI ist – neben Voraussetzungen wie großen Datenbeständen, Rechnerkapazitäten, Sensornetzen usw. – der Schlüssel und in gewisser Weise auch der Name für das rekursive Zusammenschließen von kybernetischen Informationsströmen mit behavioristischer Verhaltensprogrammierung in immer mehr Gesellschaftsbereichen, und die Bewertungspraktiken der Konsumwelt liefern dieser großen Transformation Trainingsmaterial und Reallabore (Mühlhoff 2018, 2019; Yeung 2017).

Warum diese Transformation eine Abkopplung des Bewertens von Kritik- und Rechtfertigungspraktiken bewirkt, ist nicht leicht zu sehen – und vielleicht ist dies auch nicht gänzlich unvermeidlich. Derzeit jedoch zielt die Algorithmisierung von Bewertungen, Entscheidungen und Verhaltensvollzügen klar auf das Abstützen von Routinen, nicht auf das Induzieren von Krisen. Das bestimmt als Sinn und Zweck von Technik das ingenieurale Denken und Tun auf breiter Linie. Diese Grundausrichtung wird nicht schon dadurch ausgehebelt, sondern allenfalls in ihren Folgen gemildert, dass bei der Gestaltung von IT und KI-Trainingskonstellationen auf Diversität und Perspektivenvielfalt – oder bei kommerziellen Plattformen auf Marktoffenheit und Wettbewerb – geachtet wird (Draude/Maaß 2018; Bundeskartellamt 2019). Solche Vorkehrungen verlassen nicht notwendigerweise die Logik sukzessiv-lernender Verbesserung von Bewertungsalgorithmen, die auf Crowdsourcing der Datenproduktion und kreativen Input der Vielen ohnehin angewiesen ist. Die Frage, wie demokratisch offen oder verzerrt diese Prozesse plattformbasiert organisiert werden, ist für die Rückbindung an Kritik- und Rechtfertigungsprozesse sicher wichtig, aber nicht erschöpfend. Denn das latente Programm einer Überführung der komplexen Bewertungspraxis in algorithmisch und medieninfrastrukturell gestützte Verhaltensroutinen stellt die empirische Bindung durch Flow, Affekte und Artefakte dennoch über die Affordanz einer kritischen Prüfung der konventionellen Rahmungen. Das Einnehmen kritischer Distanz gegenüber den Vorfestlegungen digitaler Bewertungsinfrastrukturen fällt den Verbraucherinnen und Verbrauchern nicht nur aufgrund der Vielfalt und Unübersichtlichkeit mehr oder weniger seriöser Vergleichsportale, Testberichte, Produktbeschreibungen oder Meinungsartikulationen sowie der Intransparenz des Zustandekommens von (algorithmischen) Bewertungen schwer. Vielmehr werden sie darüber hinaus über Feedbackmechanismen direkt angebunden. Für die Einrichtung von gewohnheitsbildenden und positiv-verstärkenden Rückkopplungsschleifen lassen sich sogar professionelle Verhaltensformer engagieren (Eyal 2014), die den Instrumentenkasten der Verhaltensökonomie (Thaler/Sunstein 2011) und Sozialphysik (Pentland 2014) effektiv einzusetzen wissen. Weil die Algorithmen und Designs somit im praktischen Vollzug mit dem Handeln und Erleben eng rückgekoppelt werden, wirkt ihr bloßes Funktionieren auf die Erwartungen an Bewertungsstandards zurück: Wie bei Turings (1994) bekanntem Performanz-Test, der die faktische Akzeptanz zum Kriterium für Intelligenz erklärt, bleibt unklar, ob die Überzeugungskraft auf maschinelle Leistungssteigerungen oder menschliche Standardsenkungen zurückgeht (Lanier 2014: 49). Dass solche Habitualisierungen immer schwerer zu durchbrechen sind, zeigt auch die mediale Evolution der Bewertungsinfrastrukturen: War in den Anfängen Schriftlichkeit noch prägend, tritt diese hinter mündliche Sprache, Filme und Bilder sowie algorithmisch generierte Vorschläge zunehmend zurück, und dieser Distanzverlust spiegelt sich in den Reduktionen der Interfaces wider – von Bildschirmen mit Tastaturen über intuitive Touchscreens bis zu Sprachassistenten als Alltagsbegleitern.

Fazit: Transformierte Selbstbestimmung oder selbstbestimmte Transformation?

Die Umstellung konventioneller Ordnungen auf empirische Akzeptanzmaße unter Verzicht auf Prüfungen ihrer normativen Akzeptabilität verändert die gesellschaftliche Bewertungspraxis. Die Bedingungen ihrer praktischen Bewährung lösen sich von der Ausbildung und Reproduktion kritischer Kompetenzen ab. Handeln und Erleben von Konsumsubjekten, die sich in digitalen Welten bewegen, verschmelzen mit algorithmischen Prozessmustern in einer soziotechnischen Verlaufskurve, deren Ausrichtung der reflexiven Kontrolle mehr und mehr entzogen ist – jedenfalls einer reflexiven Kontrolle, die sich auf den kompetenten Umgang mit den Registern der Rechtfertigung von konventionellen Ordnungen stützt. Das Vorverlagern von Bewertungskriterien in Entscheidungsarchitekturen, die das „richtige“ Verhalten anstupsen sollen, ist Symptom dieses Verlusts an Selbstbestimmungskompetenzen – jedenfalls solange es sich nicht um selbstgewähltes, sondern um Fremd-Nudging handelt. Wohin entwickelt sich dann aber diese Verlaufskurve? Das lässt sich nicht eindeutig sagen, sondern besser über Szenarien einfangen – womit zugleich weiterer Forschungsbedarf angezeigt ist.

Zwei Szenarien bilden hierbei die Eckpfosten eines Spektrums, in dem diese Verlaufskurve sich bewegen kann. Auf der einen Seite dieses Spektrum ist Entwarnung angezeigt, weil KI in diesem Szenario nur eine Blase ist, die schnell platzt. In einzelnen Bereichen mag es gewünschte Transformationen der hybriden Praxis geben und manchmal auch ungewünschte Dark Pattern, die es zu identifizieren und zu beseitigen gilt; aber im Grunde produziert die algorithmisierte Bewertungspraxis so viele Ungereimtheiten und Probleme und verfügt die Gesellschaft weiterhin über so viele Orte ihrer kritischen Reflexion und Diskussion, dass die kritischen Bewertungskompetenzen eher aktiviert als deaktiviert zu werden scheinen. Nach vier Jahren Trump und einer weit fortgeschrittenen Fragmentierung und Erosion von Rechtfertigungsanforderungen in der Öffentlichkeit erscheint solcher Optimismus allerdings fraglich.

Auf der anderen Seite des Spektrums ist ebenfalls Entwarnung angezeigt, weil in diesem zweiten Szenario die kritische Kompetenz nicht länger gebraucht wird. Die kybernetischen Äquivalente der alten Bewertungsordnungen erweisen sich darin schlicht als genauso geeignet. Das Lernen der Maschinen weise gegenüber den stets unvollständigen Rechtfertigungen und abgebrochenen Prüfungen der Menschen sogar die höhere und überlegene Rationalität auf. Die Intelligenz der Maschinen erschöpfe sich demnach nicht in der probabilistischen Modellierung von Routinesituationen, sondern sei auch zu echten abduktiven Schlüssen in der Lage (vgl. Nassehi 2019: 234ff.). Aber das ist wohl ebenfalls reichlich naiv, da die stochastischen Methoden der Annäherung und Optimierung doch weit von jener Hervorbringung neuen Wissens, neuer Überzeugungen und neuer Bewertungen entfernt sind, die klassische Pragmatisten wie Peirce (1975) oder Dewey (1996) an die experimentellen Praktiken und kritischen Kompetenzen kommunizierender Forschungskollektive gebunden sahen.

Daher werden andere Szenarien wahrscheinlich, bei denen die Verlaufskurven stark davon abhängen, ob und wie weit es gelingt, die algorithmischen Transformationen an Praktiken der Kritik und Rechtfertigung zurückzubinden. Hier ist ein breites Spektrum an Pfaden und Dynamiken möglich, insbesondere die fortgesetzte Fragmentierung und Schwächung kritischer Kompetenzen, eine Umverteilung von Kuratierungs- und Meinungsmacht an private Konzerne und die Gewöhnung an Formen paternalistischer Verhaltenskontrolle und Überwachung durch jene, die über die Ressourcen zur Gestaltung von digitalen Entscheidungsarchitekturen, Bewertungsordnungen und KI-Designs verfügen. Es gibt aber auch Ansätze und Möglichkeiten, dem entgegenzuwirken und Selbstbestimmung als Design Challenge ernst zu nehmen.

So ist auf die Ideen und Bemühungen, in Designprozesse eine Sensibilität für die Pluralität von Wertordnungen durch kritische Prüfungen und Rechtfertigungen sowie die Beteiligung von Nutzenden methodisch einzubauen, bereits hingewiesen worden. Auch werden bekanntlich Transparenz-Forderungen in Bezug auf Algorithmen erhoben und wird von politischer Seite vielfach ein humanistisches Bekenntnis geleistet, demzufolge die Digitalisierung dem Menschen dienen solle und nicht umgekehrt. Doch kann dies leicht dazu führen, dass wiederum Werte in intelligente Technik gegossen werden, die dann zwar das Verhalten anders ausrichten, aber nicht unbedingt auf andere Weise, als kommerzielle Plattformen mit einem aufmerksamkeitsökonomischen Fokus dies tun. Privatheit etwa kann zu einem solchen normativen Gestaltungsanker erkoren werden, der direkt der Selbstbestimmung dienen solle (Privacy by Design, Privacy by Default). Doch wenn Verbraucherinnen und Verbraucher zum Schutz ihrer persönlichen Daten genudged werden müssen und informationelle Privatheit dann mit sparsamen Cookie-Einstellungen und anderen algorithmisch vorgezeichneten Privacy-Einstellungen weitgehend zusammenfällt, hat das mit Selbstbestimmung wenig zu tun. Privatheit und Datenschutz folgen dann weitgehend routineförmig einem vorgezeichneten Handlungsprogramm – welches nicht schlecht sein muss, sondern vernünftig sein kann, aber nicht mit Selbstbestimmung verwechselt werden sollte (Lamla 2019, 2020).  Letztere erfordert die Bildung und Reproduktion kritischer Kompetenzen, wofür die algorithmischen Bewertungspraktiken in der Tat ein geeignetes Trainingsfeld darstellen können. Dann allerdings müssen diese nicht nur transparent und zugänglich bleiben, sondern ihre Bindung an kritische Prüfungen und Rechtfertigungspflichten auch über den Designprozess hinaus in den Nutzungskontexten aktiv sicherstellen. Möglich wäre dies durch Sichtbarmachen von Kontingenzen und Verweise auf die Pluralität von Bewertungsordnungen – gleichsam als Irritation algorithmisch vorgenommener Bewertungen und Widerpart ihrer Routinisierung.  

Anmerkungen

  1. Es sei darauf hingewiesen, dass es in der deutschen Soziologie wichtige Impulse für eine Analyse solcher Zusammenhänge gibt, die in aktuellen Diskussionen zu Unrecht vernachlässigt werden, etwa Oevermanns Modell der Autonomie der Lebenspraxis, verstanden „als widersprüchliche Einheit von Entscheidungszwang und Begründungsverpflichtung“ (2000: 411f.). Gerade dort, wo es darum geht, Grenzen der Algorithmisierbarkeit von Praktiken zu bestimmen und Formen der Selbstbestimmung in diesem Zusammenhang zu diskutieren, erweist dieser Zugang seine Stärken.
  2. Beispiel für die erste Variante: „In der Schule geht es ausschließlich um individuelle Leistung, nicht darum, wo jemand herkommt.“ Beispiel für Variante 2: „Unsere Vorstellungen von Arbeitsleistung und unsere Arbeitsorganisation bieten den kreativen Wilden zu wenig Entfaltungsmöglichkeiten und sollten daher überdacht werden.“
  3. Ersteres soll hier eine Domäne der Wertzuweisung bezeichnen, etwa die des Marktes, des staatlichen Gemeinwesens, der Familie, der Industrie oder der Inspiration; „Register“ spielt demgegenüber auf die Elemente eines jeweiligen Rechtfertigungszusammenhangs an, etwa spezifische Äquivalenzprinzipien, Person-Konzepte, Objekte, Ontologien usw. (vgl. Boltanski/Thévenot 2007).
  4. Der Widerspruch, dass denselben Subjekten diese Kompetenz oft abgesprochen werden muss, wenn es um die halbherzige Umsetzung ihrer ökologischen Präferenzen oder den fehlenden Schutz ihrer persönlichen Daten geht, fällt dabei scheinbar nicht ins Gewicht.

Literatur

Bauer, S./Heinemann, T./Lemke, T. (Hg.) (2017): Science and Technology Studies. Klassische Positionen und aktuelle Perspektiven. Berlin: Suhrkamp.


Boltanski, L./Thévenot, L. (2007): Über die Rechtfertigung. Eine Soziologie der kritischen Urteilskraft. Hamburg: Hamburger Edition.


Boltanski, L./Thévenot, L. (2011): Die Soziologie der kritischen Kompetenzen. In: Diaz-Bone, R. (Hg.): Soziologie der Konventionen. Grundlagen einer pragmatischen Anthropologie. Frankfurt/New York: Campus, 43-68.


Bundeskartellamt (2019): Sektoruntersuchung Vergleichsportale. Bonn: o.V.


Celikates, R. (2009): Kritik als soziale Praxis: Gesellschaftliche Selbstverständigung und kritische Theorie. Frankfurt/New York: Campus.


Dewey, J. (1939): Theory of Valuation. Chicago: University of Chicago Press.


Dewey, J. (1996): Die Öffentlichkeit und ihre Probleme. Bodenheim: Philo.


Diaz-Bone, R. (Hg.): Soziologie der Konventionen. Grundlagen einer pragmatischen Anthropologie. Frankfurt/New York: Campus.


Draude, C./Maaß, S. (2018): Making IT Work. Integrating gender research in computing through a process model. In: Proceedings of 4th Gender&IT conference, Heilbronn, Germany (GenderIT’18). ACM, New York, NY, USA, 8 pages.


Engemann, C./Sudmann, A. (Hg.) (2018): Machine Learning – Medien, Infrastrukturen und Technologien der Künstlichen Intelligenz. Bielefeld: transcript.


Eyal, N. (2014): Hooked. Wie Sie Produkte erschaffen, die süchtig machen. München: Redline.


Eymard-Duvernay, F. (1989). Conventions de qualité et formes de coordinations. Revue économique 40(2), 329–359.


Habermas, J. (1981): Theorie des kommunikativen Handelns. Band 2: Zur Kritik der funktionalistischen Vernunft. Frankfurt/M.: Suhrkamp.


Habermas, J. (1983): Moralbewußtsein und kommunikatives Handeln. Frankfurt/M.: Suhrkamp.


Jaeggi, R. (2014): Kritik von Lebensformen. Berlin: Suhrkamp.


JFF e.V. u.a. (2020): Digitales Deutschland. Rahmenkonzept. Ms.


Kornberger, M., Pflueger, D., Mouritsen, J. (2017): Evaluative Infrastructures: Accounting for platform organization. Accounting, Organization and Society 60, 79–95.


Kropf, J. (2019): Recommender Systems in der populären Musik. Kritik und Gestaltungsoptionen. In: Kropf, J./Laser, S. (Hg.): Digitale Bewertungspraktiken. Für eine Bewertungssoziologie des Digitalen. Wiesbaden: Springer VS, 127-163.


Kropf, J./Laser, S. (Hg.) (2019): Digitale Bewertungspraktiken. Für eine Bewertungssoziologie des Digitalen. Wiesbaden: Springer VS.


Lamla, J. (2008): Markt-Vergemeinschaftung im Internet. Das Fallbeispiel einer Shopping- und Meinungsplattform. In: Hitzler, R./Honer, A./Pfadenhauer, M. (Hg.): Posttraditionale Gemeinschaften. Theoretische und ethnographische Erkundungen. Wiesbaden: VS, 170-185.


Lamla, J. (2013): Verbraucherdemokratie. Politische Soziologie der Konsumgesellschaft. Berlin: Suhrkamp.


Lamla, J. (2019): Selbstbestimmung und Verbraucherschutz in der Datenökonomie. Aus Politik und Zeitgeschichte (APuZ) 69 (24-26/2019), 49-54.


Lamla, J. (2020): Gesellschaft als digitale Sozialmaschine? Infrastrukturentwicklung von der Plattformökonomie zur kybernetischen Kontrollgesellschaft. In: Hentschel, A./Hornung, G./Jandt, S. (Hg.): Mensch – Technik – Umwelt: Verantwortung für eine sozialverträgliche Zukunft. Festschrift für Alexander Roßnagel zum 70. Geburtstag. Baden-Baden: Nomos, 477-496.


Lanier, Jaron (2014): Gadget. Warum die Zukunft uns noch braucht. Berlin: Suhrkamp.


Latour, B. (1991). Technology is society made durable. In: Law, J. (Hg.), A Sociology of Monsters. Essays on Power, Technology and Domination. Sociological Review 38, 103-132.


Mau, S. (2017): Das metrische Wir. Über die Quantifizierung des Sozialen. Berlin: Suhrkamp.


Meier, F./Peetz, T./Waibel, D. (2016): Bewertungskonstellationen. Theoretische Überlegungen zur Soziologie der Bewertung. Berliner Journal für Soziologie 26, 307-328.


Mühlhoff, R. (2018): Digitale Entmündigung und User Experience Design. Wie digitale Geräte uns nudgen, tracken und zur Unwissenheit erziehen. In: Leviathan 46 (4), S. 551-574.


Mühlhoff, R. (2019): Menschengestützte Künstliche Intelligenz. Über die soziotechnischen Voraussetzungen von deep learning. In: Zeitschrift für Medienwissenschaft 11, S. 56-64.


Nassehi, A. (2019): Muster. Theorie der digitalen Gesellschaft. München: C.H. Beck.


Oevermann, U. (2000): Das Verhältnis von Theorie und Praxis im theoretischen Denken von Jürgen Habermas – Einheit oder kategoriale Differenz? In: Müller-Doohm, S. (Hg.): Das Interesse der Vernunft. Rückblicke auf das Werk von Jürgen Habermas seit „Erkenntnis und Interesse“. Frankfurt/M.: Suhrkamp, 411-464.


Pentland, A. (2014): Social Physics. How Good Ideas Spread – The Lessons from a New Science. Brunswick; London: Scribe.


Peirce, C. S. (1975): Die Festlegung einer Überzeugung. In: Martens, E. (Hg.): Philosophie des Pragmatismus. Ausgewählte Texte. Stuttgart: Reclam, 61-98.


Star, S. L. & Ruhleder, K. (1996). Steps Toward an Ecology of Infrastructure: Design and Access or Large Information Spaces. Information System Research 7(1), 111-134.


Thaler, R. H./Sunstein, C. R. (2011): Nudge. Wie man kluge Entscheidungen anstößt. Berlin: Econ.


Turing, A. M. (1994): Kann eine Maschine denken? In: Zimmerli, W. C./Wolf, S. (Hg.): Künstliche Intelligenz. Philosophische Probleme. Stuttgart: Reclam, 39-78.


Walzer, M. (1994): Sphären der Gerechtigkeit. Ein Plädoyer für Pluralität und Gleichheit. Studienausgabe. Frankfurt/New York: Campus.


Yeung, K. (2017): “Hypernudge”. Big Data as a mode of regulation by design. Information, Communication & Society 20(1), 118-136.


Zuboff, S. (2018): Das Zeitalter des Überwachungskapitalismus. Frankfurt/New York: Campus.


Zweig, K. A. et al. (2019): Kontinuierliches A/B-Testing zur Optimierung von Spielerbindung und Monetarisierung bei „Freemium“-Spielen. In: Blättel-Mink, B./Kenning, P. (Hg.):  Paradoxien des Verbraucherverhaltens. Wiesbaden: Springer Gabler, 43-57.