S1-306 – Die wachsende Verständnislücke
Wie wir gelernt haben, die Welt zu nutzen, ohne sie zu verstehen
Irgendwann im letzten Jahrzehnt wurde das Gerät, auf dem die meisten von uns diese Zeilen gerade lesen, zu etwas, das wir nicht erklären können. Nicht nur zu etwas, das wir nicht bauen könnten (das galt für die meisten Werkzeuge während des größten Teils der Menschheitsgeschichte), sondern zu etwas, dessen Funktionsprinzipien sich dem Vokabular entziehen, das wir täglich verwenden, um zu beschreiben, was es tut. Wir wissen, dass das Berühren einer Glasoberfläche Text auf einem Bildschirm erzeugt. Wir wissen nicht, warum. Wir wissen, dass das Gerät drahtlos mit anderen Geräten auf der ganzen Welt kommuniziert. Wir wissen nicht, wie. Wir wissen, dass das Gerät etwas enthält, das man Prozessor nennt, etwas, das man Speicher nennt, etwas, das man Betriebssystem nennt, und etwas, das man App nennt. Wir wissen nicht, was diese Dinge tatsächlich sind – in dem Sinne, dass wir die physikalischen und logischen Prozesse beschreiben könnten, die sie funktionieren lassen. Wir verwenden die Begriffe. Die Begriffe sind kein Verständnis.
Das ist kein persönliches Versagen. Es ist ein struktureller Zustand des modernen Lebens, und er beschleunigt sich. Die Kluft zwischen dem, was Menschen nutzen können, und dem, was sie verstehen können, hat sich seit zwei Jahrhunderten vergrößert, angetrieben durch die fortschreitende Aufteilung des Wissens in Spezialgebiete, die einzeln zwar nachvollziehbar sind, in ihrer Gesamtheit jedoch das Verständnis eines einzelnen Menschen übersteigen. Jede Generation erbt eine Welt, die leistungsfähiger, vernetzter und weniger verständlich ist als die vor ihr. Es ist eine Welt, in der sich die zur Orientierung verfügbaren Werkzeuge vervielfacht haben, während die Fähigkeit, diese Werkzeuge zu verstehen, weiterhin durch die kognitiven Grenzen begrenzt bleibt, die in Artikel S1-202 beschrieben wurden: das kleine Arbeitsgedächtnis, der Chunking-Mechanismus, die Wissensillusion, die Vertrautheit als Verständnis erscheinen lässt. Wir haben eine Zivilisation aufgebaut, deren Infrastruktur im technischen Sinne über uns hinausgeht, und wir leben darin mit außerordentlicher Leichtigkeit – bis zu dem Moment, in dem etwas schiefgeht.
Dieser Artikel untersucht die vier Phasen, in denen sich die Lücke zwischen Nutzung und Verständnis vergrößert hat, welche Kosten diese Lücke in bestimmten Bereichen verursacht und was getan werden kann (nicht, um sie zu schließen – was weder möglich noch wünschenswert ist –, sondern um sie ehrlich anzuerkennen).
Die vier Phasen der sich vergrößernden Lücke
Die Lücke zwischen der Nutzung eines Werkzeugs und dessen Verständnis ist nicht neu. Doch ihr Ausmaß, ihre Tiefe und ihre Folgen haben sich in einer Weise verändert, die es wert ist, anhand der spezifischen Phasen nachzuverfolgen, in denen sich die Lücke am dramatischsten vergrößert hat.
In der ersten Phase (die den größten Teil der Menschheitsgeschichte vor der Industrialisierung prägte) war die Beziehung zwischen Nutzer und Werkzeug im Wesentlichen transparent. Der Jäger, der einen Speer benutzte, der Bauer, der einen Pflug benutzte, der Weber, der einen Webstuhl benutzte – sie alle konnten das von ihnen verwendete Werkzeug im Prinzip selbst herstellen, es reparieren, wenn es kaputt ging, die physikalischen Prinzipien verstehen, nach denen es funktionierte, und die Folgen seines Gebrauchs für die Umgebung, in der sie es einsetzten, einschätzen. Das Werkzeug war für denjenigen, der es benutzte, in allen vier Dimensionen nachvollziehbar: Konstruktion, Bedienung, Funktionsweise und Auswirkungen. Damit soll das vorindustrielle Leben nicht romantisiert werden (es war in vielerlei Hinsicht unerträglich schwer, was durch die Transparenz der Werkzeuge nicht ausgeglichen wurde), sondern es soll die Ausgangsbasis identifiziert werden: ein Zustand, in dem die Kluft zwischen Nutzung und Verständnis so gering war, dass das Modell des Benutzers vom Werkzeug in allen vier Dimensionen annähernd zutreffend war.
In der zweiten Phase (der Phase der frühen Industrialisierung, grob gesagt im 18. und 19. Jahrhundert) löste sich die erste Dimension von den anderen. Der Arbeiter, der eine Dampfmaschine bediente, konnte keine bauen. Der Bau war zu einer Spezialisierung geworden. Doch Bedienung, Funktionsweise und Auswirkungen blieben zugänglich: Der Arbeiter, der die Maschine bediente, konnte ihre Funktionsweise verstehen, erkennen, wann sie Fehlfunktionen aufwies, und die Folgen ihres Betriebs in der Umwelt beobachten. In einer Dimension hatte sich eine Kluft aufgetan. Drei blieben transparent.
In der dritten Phase (der Phase der ausgereiften Industrialisierung, die sich grob vom späten 19. Jahrhundert bis ins 20. Jahrhundert erstreckte) löste sich die zweite Dimension ab. Der Arbeiter, der immer komplexere Maschinen bediente, konnte diese bedienen, ohne zu verstehen, wie sie funktionierten. Der Nutzer eines Kühlschranks, eines Autos oder eines Fernsehers bediente das Gerät über eine Schnittstelle, die so gestaltet war, dass die Bedienung ohne mechanisches Verständnis möglich war. Der Mechanismus war zur Spezialdomäne geworden. Konstruktion und Mechanismus lagen nun beide außerhalb der Reichweite des gewöhnlichen Nutzers. Bedienung und Auswirkungen blieben jedoch zugänglich: Man konnte das Gerät weiterhin nutzen und beobachten, wie es sich auf die Welt um es herum auswirkte. Die Kluft hatte sich auf zwei Dimensionen erweitert.
In der vierten Phase (der Phase, in der wir uns derzeit befinden, die etwa mit dem persönlichen Computer begann und sich durch vernetzte Geräte, Plattformen und algorithmische Systeme beschleunigt hat) hat sich auch die vierte Dimension abgetrennt. Der Nutzer eines Smartphones, einer Social-Media-Plattform oder eines KI-gesteuerten Empfehlungssystems kann es nicht selbst bauen, versteht seinen Mechanismus nicht, bedient es über eine Schnittstelle, die darauf ausgelegt ist, seine Funktionsweise zu verbergen, und kann zunehmend seine Auswirkungen auf die Umgebung nicht mehr direkt beobachten: auf die eigene Psyche, die sozialen Beziehungen, das Informationsumfeld sowie die umfassenderen sozialen und politischen Systeme, an denen er teilhat. Alle vier Dimensionen der ursprünglichen Transparenz haben sich geschlossen. Das Gerät ist in jeder Dimension gleichzeitig nutzbar und undurchsichtig.¹
Alfred North Whitehead stellte fest, dass die Zivilisation dadurch voranschreitet, dass sie die Zahl der wichtigen Vorgänge erweitert, die wir ausführen können, ohne darüber nachzudenken. Das ist wahr und wichtig. Zu den Vorgängen, die die vierte Stufe ohne Nachdenken durchführbar gemacht hat, gehören die Kommunikation über Kontinente hinweg, der Zugang zum gesammelten Wissen der menschlichen Zivilisation und die Koordination sozialer und wirtschaftlicher Aktivitäten in einem Ausmaß, das sich keine vorherige Generation hätte vorstellen können. Der Preis dieser Vorgänge besteht, in Whiteheads Worten, genau darin, dass sie kein Nachdenken (kein Verstehen) erfordern und das Fehlen von Verständnis daher für die Menschen, die diese Vorgänge ausführen, unsichtbar ist. Die Kluft wird nicht wahrgenommen. Sie wird gelebt.
Was die Lücke in bestimmten Bereichen kostet
Die Kosten der sich vergrößernden Lücke verteilen sich nicht gleichmäßig auf alle Bereiche. Sie konzentrieren sich auf drei spezifische Bereiche, in denen die Folgen eines mangelnden Verständnisses der verwendeten Werkzeuge am schwerwiegendsten sind.
Der erste ist der politische Bereich. Demokratische Selbstverwaltung setzt voraus, dass die Bürger in der Lage sind, die Behauptungen derer zu bewerten, die sie regieren wollen, die wahrscheinlichen Folgen vorgeschlagener politischer Maßnahmen einzuschätzen und ihre Vertreter für die tatsächlichen Folgen der umgesetzten Politik zur Rechenschaft zu ziehen. Diese Bewertung erfordert ein gewisses Verständnis der zu verwaltenden Systeme: des Wirtschaftssystems, des öffentlichen Gesundheitssystems, des Energiesystems und des Informationssystems. Da diese Systeme immer komplexer, vernetzter und undurchsichtiger geworden sind, hat sich die Kluft zwischen dem, was die Bürger bewerten sollen, und dem, was sie verstehen können, entsprechend vergrößert. Von Wählern, die sich eine Meinung zu Geldpolitik, epidemiologischen Modellen, Wegen der Energiewende oder algorithmischer Inhaltsregulierung bilden sollen, wird verlangt, die Ergebnisse von Systemen zu bewerten, zu deren Mechanismen sie keinen direkten Zugang haben. Sie müssen sich auf Vermittler (Experten, Journalisten, Politiker, Kommentatoren) verlassen, deren eigenes Verständnis der Systeme enorm variiert und deren Anreize, dieses Verständnis genau zu vermitteln, ebenso unterschiedlich sind.²
Der zweite Bereich ist die persönliche Entscheidungsfindung. Die Instrumente, die mittlerweile die folgenreichsten persönlichen Entscheidungen (über Gesundheit, Finanzen, Beziehungen und Informationen) vermitteln, sind zunehmend algorithmisch und daher zunehmend undurchsichtig. Die Suchmaschine, die bestimmt, welche Informationen uns bei einer medizinischen Entscheidung zur Verfügung stehen, zeigt uns nicht, wie sie die Ergebnisse einstuft oder wessen Interessen diese Einstufung widerspiegelt. Der Algorithmus zur Bonitätsbewertung, der unseren Zugang zu Finanzprodukten bestimmt, erklärt nicht, welche Merkmale unserer Vergangenheit er gewichtet hat und warum. Die Plattform, die bestimmt, welche Beiträge unserer Freunde wir sehen, teilt uns nicht mit, auf welcher Grundlage sie diese Auswahl trifft oder wie sich die Auswahl im Laufe der Zeit auf unsere politischen und sozialen Überzeugungen auswirkt. Wir nutzen die Ergebnisse dieser Systeme, um Entscheidungen zu treffen. Wir verstehen die Systeme nicht. Und die Entscheidungen, die wir auf der Grundlage ihrer Ergebnisse treffen, sind daher Entscheidungen, die auf der Grundlage von Prozessen getroffen werden, deren Verzerrungen und Fehler wir nicht einschätzen können.³
Der dritte Bereich ist derjenige, den die Gliederung der Serie als den besonderen Beitrag dieses Artikels identifiziert hat: der Bereich Technik und Umwelt. Die vierte Stufe der sich vergrößernden Kluft hat nicht nur Konstruktion und Mechanismus vom allgemeinen Verständnis getrennt, sondern auch die Wirkung: die Fähigkeit, die Folgen der von einem selbst verwendeten Werkzeuge auf die Umwelt, in der man lebt, direkt zu beobachten. Die Folgen der digitalen Wirtschaft (für die Aufmerksamkeit, die psychische Gesundheit, den sozialen Zusammenhalt, die politische Polarisierung, den Energieverbrauch) sind real und weitreichend, aber sie sind nicht direkt beobachtbar, so wie die Folgen einer Fabrik der frühen Industriegesellschaft beobachtbar waren. Die Fabrik stieß sichtbar Rauch aus. Das Smartphone tut dies nicht.
Diese Undurchsichtigkeit der vierten Dimension ist das spezifische Merkmal der gegenwärtigen Phase, das sie qualitativ von früheren Phasen unterscheidet. In allen früheren Phasen blieb die Dimension der Auswirkungen transparent, auch wenn sich die anderen drei verschlossen. Wer kein Auto bauen konnte, dessen Motor nicht verstand und es über eine Schnittstelle bediente, die seinen Mechanismus verbarg, konnte dennoch beobachten, dass es Abgase produzierte, dass es Fußgänger verletzte, wenn es in sie hineinfuhr, und dass seine Verbreitung den Charakter des städtischen Raums veränderte. Die Auswirkungen waren sichtbar und standen daher für demokratische Beratungen zur Verfügung. Die Auswirkungen der aktuellen Generation digitaler Werkzeuge (ihre Auswirkungen auf die individuelle Psychologie, soziale Dynamiken, politische Systeme und Informationsumgebungen) sind nicht auf dieselbe Weise sichtbar, da sie über Mechanismen wirken, die selbst undurchsichtig sind, Auswirkungen hervorrufen, die schleichend, verteilt und eher statistisch als individuell sichtbar sind, und in einem Bereich stattfinden (dem Innenleben der Person, die das Werkzeug nutzt), der von Natur aus privat ist.⁴
Die Wissensillusion auf zivilisatorischer Ebene
Die sich vergrößernde Kluft zwischen Nutzung und Verständnis ist die zivilisatorische Version der in Artikel S1-202 beschriebenen Wissensillusion. Die Wissensillusion auf individueller Ebene ist die Verwechslung von Vertrautheit mit Verständnis: das Gefühl, dass man ein Konzept versteht, nur weil man es wiedererkennen kann. Die Wissensillusion auf zivilisatorischer Ebene ist die Verwechslung von Fähigkeit mit Verständnis: das Gefühl, dass die Zivilisation versteht, was sie tut, nur weil sie etwas tun kann.
Das Bleistiftbeispiel aus Artikel S1-202 ist hier relevant: Kein einziger Mensch auf der Erde weiß, wie man einen Bleistift herstellt, und doch werden Bleistifte in Milliardenstückzahlen produziert. Das verteilte Wissen, das die Bleistiftherstellung ermöglicht, befindet sich nicht im Verstand eines einzelnen Menschen. Es befindet sich im Netzwerk aus Fachleuten, Institutionen, Lieferketten und gesammelten Praktiken, die zusammen das Produktionssystem bilden. Dasselbe gilt – in weitaus größerem Maßstab und mit weitaus größerer Komplexität – für jedes System, das die moderne Zivilisation auszeichnet. Das verteilte Wissen, das das Funktionieren des Internets ermöglicht, befindet sich weder im Kopf eines Einzelnen noch in einer einzelnen Institution. Es ist über ein Netzwerk von Spezialisten verteilt, deren individuelle Wissensgebiete im Verhältnis zum Ganzen begrenzt sind und deren kollektives Schaffen etwas bildet, das kein Einzelner versteht.
Dieses verteilte Wissen ist wahrhaft mächtig (es ist das, was die außergewöhnlichen materiellen Möglichkeiten der heutigen Zeit hervorgebracht hat), und es ist zugleich wahrhaft fragil, und zwar in einer Weise, wie es Perrows Analyse der „normalen Unfälle“ (besprochen in Artikel S1-204) vorhersagt: Komplexe, eng gekoppelte Systeme versagen auf eine Weise, die keine einzelne Komponente vorhersehen konnte, da die Ausfallmodi aus den Wechselwirkungen zwischen den Komponenten entstehen und nicht aus dem Versagen einer einzelnen Komponente. Die Fragilität der Systeme, aus denen sich die moderne Zivilisation zusammensetzt, ist für ihre Nutzer nicht sichtbar, da die vierte Stufe der Kluft die Undurchsichtigkeit der Auswirkungen zu einem strukturellen Merkmal der Werkzeuge selbst gemacht hat. Die Systeme funktionieren – bis sie es nicht mehr tun. Und wenn sie es nicht mehr tun, ist die Undurchsichtigkeit, die sie nutzbar gemacht hat, dieselbe Undurchsichtigkeit, die es schwierig macht, den Fehler zu diagnostizieren und zu beheben.
Der Spezialist und der Bürger: ein strukturelles Problem
Die sich vergrößernde Kluft schafft ein strukturelles Problem für demokratische Gesellschaften, für das es keine vollständig zufriedenstellende Lösung gibt, das jedoch je nach dem Grad des Verständnisses mehr oder weniger klug bewältigt werden kann. Das Problem ist folgendes: Die Systeme, die die demokratische Regierungsführung regulieren sollen, entziehen sich zunehmend dem Verständnis der Bürger, die sie regieren müssen. Das bedeutet, dass sich die demokratische Regierungsführung zunehmend auf das Fachwissen von Spezialisten stützen muss, die die Systeme verstehen und daher Interessen, Anreize und blinde Flecken haben, die der demokratische Prozess nicht ohne Weiteres bewerten kann.
Der Experte, dessen Wissen für die Regierungsführung notwendig ist, verfügt über Macht, die nicht den üblichen Mechanismen der Rechenschaftspflicht in der Demokratie unterliegt, da der Bürger die Qualität des Urteils des Experten nicht beurteilen kann, ohne über das Verständnis zu verfügen, das das Wissen des Experten erst zu Fachwissen macht. Dies ist kein neues Problem (es existierte in verschiedenen Formen bereits im Laufe der gesamten Geschichte der demokratischen Regierungsführung), doch es hat sich verschärft, da sich die Kluft vergrößert hat und die zu regierenden Systeme komplexer, stärker vernetzt und folgenreicher geworden sind.
Die Antwort auf dieses Problem, die der Rahmen dieser Artikelserie empfiehlt, ist keine Rückkehr zur Transparenz der ersten Stufe: Das ist weder möglich noch wünschenswert, und der Versuch, dies zu erreichen, würde den Abbau jener Komplexität erfordern, die die Fähigkeiten hervorgebracht hat, die wir am meisten schätzen. Es ist die Kombination aus zwei Dingen: der Förderung der in Artikel S1-213 beschriebenen epistemischen Kompetenz auf individueller Ebene (die Fähigkeit, die Qualität von Expertenaussagen zu beurteilen, offene Fragen und interne Meinungsverschiedenheiten innerhalb einer Disziplin zu erkennen sowie den Feynman-Test anzuwenden, um echtes Verständnis von bloßer Wortgewandtheit zu unterscheiden) und der Entwicklung von Strukturen auf institutioneller Ebene, die Expertenwissen einer demokratischen Kontrolle stärker unterwerfen, ohne dass jeder Bürger zum Spezialisten werden muss.⁵
Der zweite dieser Punkte (die institutionelle Rechenschaftspflicht für Expertenwissen) ist Gegenstand späterer Beiträge dieser Reihe, in denen die spezifischen Mechanismen untersucht werden, durch die Fachwissen in die demokratische Regierungsführung einfließt, sowie die spezifischen Wege, auf denen diese Mechanismen versagen können. Der Beitrag dieses Artikels zu dieser Diskussion besteht in der vorangehenden Feststellung: Die Kluft ist struktureller Natur, sie vergrößert sich, und die angemessene Reaktion darauf beginnt damit, sie ehrlich anzuerkennen, anstatt so zu tun, als seien die verwendeten Instrumente transparenter, als sie es tatsächlich sind.
Der bewusste Blick, angewandt auf die Werkzeuge, die wir nutzen
Die in dieser Reihe empfohlene Vorgehensweise, angewandt auf die sich vergrößernde Kluft, ist keine Forderung nach universellem technischem Verständnis: Das ist unmöglich und wäre in der vierten Stufe sogar kontraproduktiv, selbst wenn es möglich wäre. Es geht darum, so präzise wie möglich zu wissen, in welcher der vier Dimensionen das eigene Verständnis eines bestimmten Werkzeugs ausreichend ist und in welcher nicht.
Das bedeutet, für jedes Werkzeug, das eine wichtige Entscheidung vermittelt oder einen wesentlichen Aspekt des eigenen Lebens prägt, zu wissen: Kann ich es bauen? Die Antwort lautet für fast alle heutigen Werkzeuge „nein“, und das ist akzeptabel. Verstehe ich seinen Mechanismus, den physikalischen oder logischen Prozess, durch den es aus seinen Eingaben seine Ergebnisse erzeugt? Die Antwort lautet bei vielen zeitgenössischen Werkzeugen ebenfalls „nein“, doch dies ist weniger akzeptabel, da das Verständnis des Mechanismus oft die Grundlage dafür bildet, die Zuverlässigkeit der Ergebnisse zu beurteilen und zu erkennen, wann das Werkzeug versagt oder unsachgemäß eingesetzt wird. Verstehe ich seine Benutzeroberfläche, die Logik, nach der sich das Werkzeug mir präsentiert, und die Auswahlmöglichkeiten, die diese Benutzeroberfläche beinhaltet? Die Antwort sollte häufiger „ja“ lauten, und wenn dies nicht der Fall ist, lohnt es sich, dieses Defizit anzugehen. Und verstehe ich seine Auswirkungen – die Folgen meiner Nutzung des Werkzeugs auf mich selbst, auf andere Menschen und auf die umfassenderen Systeme, an denen ich teilhabe? Das ist die schwierigste Frage, denn die Undurchsichtigkeit der Auswirkungen ist das charakteristische Merkmal der vierten Stufe, aber es ist auch die wichtigste Frage, denn die Auswirkungen sind das, was die Verwendung dieses Werkzeugs letzten Endes für die Welt bedeutet.
Die sich vergrößernde Kluft wird sich nicht schließen. Die Komplexität der Systeme, aus denen die moderne Zivilisation besteht, wird nicht abnehmen. Die angemessene Reaktion ist nicht Nostalgie für die erste Stufe (der Jäger, der seinen eigenen Speer herstellen konnte), sondern das ehrliche Eingeständnis, wo man im Verhältnis zu den von einem genutzten Werkzeugen steht, sowie die Entwicklung eines ausreichenden Verständnisses für Mechanismen und Auswirkungen, um diese Werkzeuge verantwortungsbewusst und nicht nur aus Bequemlichkeit zu nutzen.
Weiterführende Literatur
Steven Slomans und Philip Fernbachs The Knowledge Illusion: Why We Never Think Alone (2017) liefert die kognitive Grundlage für die zivilisatorische Argumentation dieses Artikels: den Mechanismus, durch den verteiltes Wissen individuelle Illusionen des Verstehens erzeugt, sowie die Konsequenzen dieser Illusionen für persönliche und politische Entscheidungsfindung.
Matthew Crawfords „Shop Class as Soulcraft: An Inquiry into the Value of Work“ (2009) plädiert für den spezifischen Wert handwerklicher Kompetenz (von Arbeit, die eine direkte Beziehung zwischen Handlung und Folge, zwischen Verständnis und Anwendung aufrechterhält) als Gegengewicht zu der Transparenz der ersten Stufe, die durch die vierte Stufe beseitigt wurde. Es ist die lesbarste verfügbare Auseinandersetzung damit, was verloren geht, wenn sich die Kluft vergrößert, dargestellt als persönliches und philosophisches Argument und nicht als soziologische Analyse.
Shoshana Zuboffs The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (2019) bietet die derzeit gründlichste Auseinandersetzung mit dem Argument der Auswirkungen der Undurchsichtigkeit: den spezifischen Weisen, auf die die verhaltensbezogenen Folgen der Nutzung digitaler Werkzeuge für die Nutzer unsichtbar sind, während sie für die Plattformen, die sie erheben und monetarisieren, höchst sichtbar sind. Das Werk ist lang und anspruchsvoll, aber unverzichtbar für das Verständnis der vierten Dimension der aktuellen Stufe.
Frank Pasquales The Black Box Society: The Secret Algorithms That Control Money and Information (2015) untersucht die spezifischen Mechanismen, durch die algorithmische Systeme folgenreiche Entscheidungen (im Finanzwesen, in der Arbeitswelt, beim Zugang zu Informationen) vermitteln, ohne den Menschen gegenüber Rechenschaft abzulegen, deren Leben sie prägen, und schlägt konkrete institutionelle Antworten auf das Problem der Undurchsichtigkeit vor.
Charles Perrows „Normal Accidents: Living with High-Risk Technologies“ (1984), das im Artikel S1-204 besprochen wird, liefert die theoretische Grundlage für das Verständnis, warum die Komplexität und enge Verflechtung von Systemen der vierten Phase diese strukturell anfällig für Ausfälle macht, die ihre Nutzer nicht vorhersehen können, und warum die Undurchsichtigkeit der Auswirkungen dieser Ausfälle kein Zufall, sondern ein strukturelles Merkmal der Systeme selbst ist.
Anmerkungen
¹ Das hier entwickelte vierstufige Rahmenwerk ist eher ein analytisches Konstrukt als eine historische Periodisierung, und die Stufen überschneiden sich zeitlich sowie über verschiedene Technologien und Gesellschaften hinweg erheblich. Viele derzeit genutzte Technologien erstrecken sich gleichzeitig über mehrere Stufen: Landwirtschaftliche Werkzeuge befinden sich größtenteils noch in der ersten Stufe, mechanische Werkzeuge größtenteils in der zweiten und dritten und digitale Werkzeuge größtenteils in der vierten. Das Rahmenkonzept ist keine Aussage darüber, wann bestimmte Technologien aufkamen, sondern über die Struktur der Beziehung zwischen Nutzern und Werkzeugen (welche Dimensionen der Transparenz erhalten geblieben sind und welche sich geschlossen haben) und darüber, wie sich diese Struktur im Laufe der Entwicklung der modernen Technologie verändert hat.
² Die politischen Konsequenzen der sich vergrößernden Kluft werden im Kontext spezifischer Politikbereiche in Artikel S1-808 dieser Reihe untersucht, der sich mit der besonderen Herausforderung des Klimawandels als einem bereichsübergreifenden Problem befasst, das die demokratische Regierungsführung bewältigen muss, ohne über das dafür idealerweise erforderliche Verständnis zu verfügen. Die hier vorgebrachte These (dass die Kluft struktureller Natur ist und sich vergrößert) bildet den Hintergrund, vor dem die spezifischeren politischen Argumente des Bereichs „Gesellschaft und Politik“ gelesen werden sollten.
³ Die Undurchsichtigkeit algorithmischer Entscheidungsfindung ist nicht nur ein praktisches Problem für die Einzelpersonen, deren Entscheidungen durch Algorithmen vermittelt werden. Sie ist ein rechtliches und verfassungsrechtliches Problem: Wenn eine Entscheidung über Kredite, Beschäftigung oder strafrechtliche Verurteilungen von einem Algorithmus getroffen wird, dessen Argumentation nicht überprüft werden kann, werden die verfahrensrechtlichen Schutzmechanismen, die demokratische Rechtssysteme für folgenreiche Entscheidungen vorsehen (das Recht, die Grundlage einer Entscheidung zu erfahren, das Recht, die Entscheidung anzufechten, das Recht, Beweise vor einem menschlichen Entscheidungsträger vorzulegen), faktisch außer Kraft gesetzt. Die rechtlichen und regulatorischen Reaktionen auf dieses Problem befinden sich noch in einem frühen Stadium und werden im Rahmen von Artikel S1-612 dieser Reihe erörtert, der die spezifischen Fähigkeiten und Grenzen künstlicher Intelligenz als Entscheidungsinstrument untersucht.
⁴ Die Auswirkungen der Undurchsichtigkeit digitaler Werkzeuge auf die psychische Gesundheit sind das derzeit am ausführlichsten untersuchte Beispiel für die „Lücke der vierten Dimension“. Die Forschungsliteratur zu den Auswirkungen der Nutzung sozialer Medien auf das psychische Wohlbefinden, insbesondere bei Jugendlichen, ist umfangreich und umstritten: umstritten nicht, weil die Auswirkungen nicht existieren, sondern weil ihr Ausmaß, ihre Richtung und ihre kausalen Mechanismen wirklich schwer zu ermitteln sind, wenn die Exposition allgegenwärtig und schrittweise erfolgt und zwischen Individuen und Plattformen enorm variiert. Die gründlichste Übersicht über die Evidenz findet sich bei Haidt, J., und Rausch, Z. K. (2023). Social Media and mental health: A collaborative review. Verfügbar unter jonathanhaidt.com. Die Umstrittenheit der Evidenz ist selbst ein Beispiel für den hier dargelegten Punkt: Die Auswirkungen sind real, aber nicht direkt beobachtbar, was ihre Bewertung von genau der Art statistischer und methodischer Raffinesse abhängig macht, die Nichtfachleuten aufgrund der sich vergrößernden Kluft zunehmend nicht mehr zugänglich ist.
⁵ Die in Artikel S1-213 beschriebenen spezifischen Praktiken der epistemischen Kompetenz (die „Open-Problems-Probe“, der „Expert-Disagreement-Test“, der „Feynman-Explanation-Test“, der „Adjacent-Field-Test“, der „Historical-Depth-Test“) sind die Antworten auf individueller Ebene auf das strukturelle Problem der sich vergrößernden Kluft. Sie können die Kluft zwar nicht schließen, aber sie können dazu beitragen, dass die Person, die sie anwendet, sich genauer darüber im Klaren ist, wo sie im Verhältnis zu dieser Kluft steht: ehrlicher darüber, welche Aspekte der von ihr verwendeten Werkzeuge sie versteht und welche nicht, und aufmerksamer für die spezifischen Weisen, auf die sich die Undurchsichtigkeit der Auswirkungen in den Bereichen auswirkt, die für sie am wichtigsten sind.