S1-204 – Bekannte Unbekannte und unbekannte Unbekannte

Die Karte dessen, was wir nicht wissen

Im Februar 2002 gab Donald Rumsfeld, der damalige US-Verteidigungsminister, bei einer Pressekonferenz im Pentagon eine Antwort, die zu einer der am häufigsten zitierten und am meisten verspotteten Aussagen im modernen politischen Leben wurde. Auf die Frage nach den Beweisen, die den Irak mit Massenvernichtungswaffen in Verbindung bringen, sagte er: „Es gibt bekannte Bekannte; es gibt Dinge, von denen wir wissen, dass wir sie wissen. Wir wissen auch, dass es bekannte Unbekannte gibt; das heißt, wir wissen, dass es einige Dinge gibt, die wir nicht wissen. Aber es gibt auch unbekannte Unbekannte, jene, von denen wir nicht wissen, dass wir sie nicht wissen.“ Das Gelächter, das daraufhin unter den versammelten Journalisten ausbrach, und die anhaltende Spottkampagne in der Presse in den folgenden Tagen behandelten die Aussage als Meisterwerk bürokratischer Ausflüchte, als sprachliche Verrenkung eines Politikers, die darauf abzielte, mit möglichst vielen Worten nichts zu sagen.

Der Spott war selbst ein Beweis für genau das Versagen, das Rumsfeld beschrieb. Seine Einteilung war keine Ausflucht. Es handelte sich, wie mehrere Philosophen und Erkenntnistheoretiker später hervorhoben, um eine der präzisesten und praktisch wichtigsten Unterscheidungen in der Analyse von Unsicherheit, eine, die ihre Wurzeln direkt in der Erkenntnistheorie hat und direkte Konsequenzen dafür hat, wie jedes komplexe Unterfangen – von der militärischen Planung über die wissenschaftliche Forschung bis hin zur persönlichen Entscheidungsfindung – organisiert werden sollte. ¹ Die Leute, die lachten, waren auf eine Karte des Gebiets der Unwissenheit gestoßen und hatten sie verworfen, weil sie nicht so aussah, wie sie sich Wissen vorstellten. Sie erlebten in Echtzeit das Phänomen, das die Karte beschrieb: Das, was wir nicht wissen, dass wir es nicht wissen, sieht von innen betrachtet nach gar nichts aus.

In diesem Artikel geht es darum, was in den Quadranten jenseits dessen liegt, was wir wissen: die Struktur der Unwissenheit, die spezifischen Gefahren ihrer verschiedenen Formen und was praktisch und ehrlich getan werden kann, um das Unbekannte ein wenig sichtbarer zu machen, bevor es Folgen hat.

Die vier Quadranten

Rumsfelds Taxonomie unterscheidet drei Kategorien. Für die Zwecke dieser Serie ist es sinnvoller, eine vierte hinzuzufügen und alle gemeinsam zu betrachten.²

Der erste Quadrant, die bekannten Bekannten, enthält das, was wir wissen und wissen, dass wir es wissen: die Fakten, Fähigkeiten und Erkenntnisse, die uns bewusst abrufbar sind und die wir auf Nachfrage selbstbewusst benennen würden. Der zweite Quadrant, die bekannten Unbekannten, enthält das, was wir nicht wissen, aber wissen, dass wir es nicht wissen: die Fragen, derer wir uns bewusst sind, die Lücken, die wir identifiziert haben, die Unsicherheiten, die wir benannt haben. Dies sind die Bereiche, in denen wir grundsätzlich Nachforschungen anstellen können, da wir zumindest erkannt haben, dass es etwas zu erforschen gibt. Der dritte Quadrant, die unbekannten Unbekannten, enthält das, was wir nicht wissen und nicht wissen, dass wir es nicht wissen: die Fragen, die uns noch nicht in den Sinn gekommen sind, die Variablen, für die unser Modell keinen Platz bietet, die unsichtbaren Risiken, da unser Rahmen keine Kategorie vorsieht, in die wir sie einordnen könnten. Und der vierte Quadrant, die unbekannten Bekannten, enthält das, was wir wissen, aber nicht wissen, dass wir es wissen: die stillschweigenden Verständnisse, verinnerlichten Kompetenzen und unausgesprochenen Annahmen, die unser Verhalten prägen, ohne jemals explizit zu werden. Dieser vierte Quadrant, der in Rumsfelds Formulierung weitgehend unsichtbar bleibt, ist in gewisser Weise der interessanteste von allen.

Der erste und zweite Quadrant sind die Domäne des gewöhnlichen intellektuellen Lebens. Wir leiten aus dem, was wir wissen, Rückschlüsse auf das ab, was wir nicht wissen, und entwerfen Untersuchungen, um bekannte Unbekannte in bekannte Bekannte, also Wissen, umzuwandeln. Das ist es, was Wissenschaft, Forschung und systematische Untersuchung tun. Der dritte und vierte Quadrant sind der Bereich echter epistemologischer Schwierigkeiten: die Orte, die mit den gewöhnlichen Mitteln der Forschung nicht ohne Weiteres erreicht werden können, da im dritten Fall die Frage noch nicht gestellt und im vierten Fall das Wissen noch nicht artikuliert wurde. Zusammen bilden der dritte und vierte Quadrant das Gebiet, das jedes Modell auslässt und das auf jeder Karte leer bleibt. Und wie die Geschichte menschlicher Katastrophen immer wieder zeigt, ereignen sich die folgenschwersten Ereignisse meist genau in diesen leeren Räumen.

Die unbekannten Unbekannten: wofür das Modell keinen Platz hat

Der dritte Quadrant ist der gefährlichste, da er per Definition von innerhalb des Rahmens, in dem er fehlt, unsichtbar ist. Wir können keine Untersuchung auf eine Frage richten, die uns nicht in den Sinn gekommen ist. Wir können keine Vorsichtsmaßnahmen gegen ein Risiko treffen, für das unser Modell keine Kategorie vorsieht. Das unbekannte Unbekannte offenbart sich erst im Nachhinein: als Überraschung, als Anomalie, als Katastrophe, die niemand kommen sah, weil das Rahmenwerk, in dem alle agierten, keinen Mechanismus hatte, um sie vorherzusehen.

Die Finanzkrise von 2008 gehört zu den am ausführlichsten dokumentierten Beispielen. Die Risikomodelle, die von Finanzinstituten, Ratingagenturen und Aufsichtsbehörden zur Bewertung der Sicherheit hypothekenbesicherter Wertpapiere verwendet wurden, waren ausgefeilt, mathematisch stringent und wurden anhand verfügbarer historischer Daten ausgiebig getestet. Was sie nicht modellierten, wofür ihre Rahmenbedingungen keine Kategorie vorsahen, war die Möglichkeit eines gleichzeitigen, landesweiten Rückgangs der Immobilienpreise. In den Jahrzehnten, auf deren Daten die Modelle basierten, waren die amerikanischen Immobilienpreise nie gleichzeitig auf allen wichtigen Märkten gefallen. Die Modelle behandelten einen korrelierten landesweiten Rückgang daher entweder als unmöglich oder als vernachlässigbar unwahrscheinlich. Es handelte sich um ein unbekanntes Unbekanntes: kein Risiko, das bewertet und für akzeptabel befunden worden war, sondern ein Risiko, das die Architektur des Modells nicht abbilden konnte. Als das Ereignis eintrat, war es nicht nur überraschend; es war innerhalb der eingesetzten Rahmenwerke strukturell unvorhersehbar.³

Der Soziologe Charles Perrow identifizierte ein ähnliches Muster in dem, was er als „normale Unfälle“ bezeichnete: Ausfälle in komplexen, eng gekoppelten Systemen, die aus Kombinationen kleiner Fehler entstehen, die kein Konstrukteur vorausgesehen hatte, weil kein einzelner Fehler bedeutend genug war, um Anlass zur Sorge zu geben, und weil die Kombination noch nie aufgetreten war. ⁴ Der Atomunfall von Three Mile Island, die verschiedenen Flugkatastrophen, die der Entwicklung der modernen Sicherheitskultur vorausgingen, die Challenger-Space-Shuttle-Katastrophe: In jedem Fall lag der Fehler nicht in einer einzelnen Komponente, die als Risiko identifiziert worden war. Er lag in einer Wechselwirkung zwischen Komponenten, die die Konstrukteure des Systems nicht modelliert hatten, weil diese Wechselwirkung keinen Präzedenzfall hatte und ihr Rahmenwerk keine Kategorie dafür vorsah. Das unbekannte Unbekannte war in jedem Fall das emergente Verhalten des Systems als Ganzes.

Was den dritten Quadranten so hartnäckig gefährlich macht, ist nicht, dass wir unachtsam oder unintelligent sind. Es ist vielmehr so, dass jedes Rahmenwerk naturgemäß eine Grenze hat: einen Punkt, über den es nicht hinaussehen kann, denn Sehen erfordert eine Kategorie, und Kategorien sind das, was das Rahmenwerk bereitstellt. Das Modell ist immer kleiner als das Gebiet. Der Quadrant der unbekannten Unbekannten ist kein Mangel bestimmter Modelle; er ist ein strukturelles Merkmal dessen, was es überhaupt bedeutet, ein Modell zu verwenden. Der „Conscious Look“ verspricht keine Flucht aus diesem Zustand. Was er verspricht, ist eine etwas ehrlichere Darstellung desselben.

Die bekannten Unbekannten: Was wir wissen, aber nicht gesagt haben

Der vierte Quadrant, die unbekannten Bekannten, wird seltener diskutiert, ist aber ebenso wichtig. Er enthält das Wissen, das in der Praxis vorhanden ist, aber in expliziter Formulierung fehlt: die Kompetenzen, die wir ausüben, ohne sie artikulieren zu können; die Annahmen, die unser Verhalten strukturieren, ohne jemals ausgesprochen worden zu sein; die Werte, die unsere Entscheidungen leiten, ohne jemals hinterfragt worden zu sein.

Tacit knowledge, wie es der Philosoph Michael Polanyi beschrieb, ist die grundlegendste Form davon. ⁵ Der erfahrene Chirurg, der durch das Gefühl des Instruments weiß, dass sich das Gewebe ungewöhnlich verhält, ohne im Voraus genau sagen zu können, wie sich dieses „Ungewöhnliche“ anfühlt. Der Meisterlehrer, der die Stimmung im Raum erfasst und seinen Ansatz anpasst, noch bevor ein Schüler ein Wort gesagt hat, ohne hinterher genau beschreiben zu können, auf welche Signale er reagiert hat. Der erfahrene Manager, der anhand des Tons der wöchentlichen Besprechung spürt, dass ein Projekt in Schwierigkeiten steckt, noch bevor die Kennzahlen ins Minus gerutscht sind. In jedem Fall ist das Wissen real, verlässlich und folgenreich, und es ist nicht explizit bekannt. Es wird eher praktiziert als ausgesprochen, eher ausgeübt als artikuliert.

Die institutionelle Version der unbekannten Bekannten ist problematischer. Organisationen entwickeln charakteristische Annahmen darüber, wie die Welt funktioniert (darüber, was die Konkurrenz tun wird, was Kunden wollen, welche Risiken es wert sind, eingegangen zu werden, welche Art von Menschen Erfolg haben), die nie niedergeschrieben und selten diskutiert werden, weil sie als selbstverständlich behandelt werden. Diese Annahmen bestimmen jede Entscheidung und jede Interpretation von Belegen, doch für die Menschen innerhalb der Organisation sind sie unsichtbar, gerade weil sie nie artikuliert werden mussten. Wenn sich das Umfeld so verändert, dass die Annahmen falsch werden, wendet die Organisation sie weiterhin an – nicht aus Sturheit, sondern aus schlichter Unkenntnis darüber, dass die Annahmen existieren und daher hinterfragt werden könnten. Das „unbekannte Bekannte“ ist zu einer Falle geworden.

Die folgenreichsten „bekannten Unbekannten“ im öffentlichen Leben sind die ideologischen und moralischen Annahmen, die in den Rahmenbedingungen verankert sind, und durch die Politik gestaltet und gerechtfertigt wird. Wenn ein Wirtschaftsmodell davon ausgeht, dass Akteure sich rational verhalten, ist dies nicht bloß eine technische Entscheidung; es ist eine Annahme über die menschliche Natur, die moralisches Gewicht hat und prägt, welche politischen Maßnahmen vielversprechend und welche absurd erscheinen. Wenn ein Rahmenwerk der öffentlichen Gesundheit davon ausgeht, dass Informationen zu Verhaltensänderungen führen, ist dies nicht bloß eine empirische Hypothese; es ist eine Annahme über die menschliche Psychologie und das menschliche Handeln, die durch Beweise immer wieder widerlegt wurde, sich jedoch als außerordentlich widerstandsfähig gegenüber einer Revision erwiesen hat, da sie als Hintergrundannahme und nicht als überprüfbare Behauptung in das Rahmenwerk eingebettet ist. Das „unbekannte Bekannte“ ist in jedem Fall die Annahme, die die Arbeit leistet, aber nie ans Licht gebracht wurde.

Die bekannten Unbekannten und warum sie weniger gefährlich sind, als sie sich anfühlen

Der zweite Quadrant, die bekannten Unbekannten, ist der Ort, an dem der größte Teil der expliziten Angst vor Unsicherheit angesiedelt ist, und es ist bemerkenswert, dass dies tatsächlich der am wenigsten gefährliche Quadrant ist. Eine bekannte Unbekannte ist eine Lücke, derer wir uns bewusst sind. Wir können Nachforschungen darüber anstellen, Vorsichtsmaßnahmen dagegen treffen, Notfallpläne dafür entwerfen und zumindest anderen mitteilen, dass wir uns in einem Bereich anerkannter Unsicherheit bewegen.

Der Arzt, der einem Patienten mitteilt, dass die Diagnose ungewiss ist (dass die Symptome mit mehreren Erkrankungen vereinbar sind und weitere Tests erforderlich sind), bewegt sich im Bereich der bekannten Unbekannten. Das ist ehrlich und nützlich, auch wenn es beim Patienten Ängste auslöst. Der Politiker, der anerkennt, dass die langfristigen wirtschaftlichen Folgen einer Politik ungewiss sind (dass die Modelle eine Bandbreite an Ergebnissen liefern und das Vertrauen in eine bestimmte Prognose begrenzt ist), tut dasselbe. Der Wissenschaftler, der eine Erkenntnis unter ausdrücklichem Hinweis auf die Grenzen der Studie veröffentlicht, leistet denselben intellektuellen Beitrag.

All diesen Fällen ist gemeinsam, dass sie unbekannte Unbekannte in bekannte Unbekannte umwandeln, indem sie die Lücke benennen. Diese Umwandlung (von unbewusster Inkompetenz zu bewusster Inkompetenz, in der Terminologie der Lerntheorie) ist eines der wertvollsten Ergebnisse, die sorgfältiges Nachdenken über ein Thema erzielen kann. Sie füllt die Lücke nicht. Sie macht die Lücke sichtbar, was die notwendige Voraussetzung ist, um etwas dagegen zu unternehmen.

Das Unbekannte erkennbar machen: praktische Strategien

Keine der verfügbaren Strategien zur Verringerung des Umfangs unbekannter Unbekannter ist zuverlässig, vollständig oder ausreichend. Doch einige haben sich bereichsübergreifend als durchweg nützlich erwiesen.

Die erste ist die bewusste Auseinandersetzung mit anderen Denkmodellen als den eigenen. Das unbekannte Unbekannte ist innerhalb eines bestimmten Rahmens unbekannt. Jemand, der von einem anderen Rahmen ausgeht (mit anderen Hintergrundannahmen, anderen Kategorien, anderen Vorerfahrungen), kann möglicherweise erkennen, was der erste Rahmen nicht sieht. Dies ist das intellektuelle Argument für die Vielfalt des Denkens, das wesentlich tiefer geht als das soziale Argument: nicht Vielfalt als Repräsentation, sondern Vielfalt als epistemologische Absicherung, denn die Lücken in einem Rahmen sind aus einem anderen Rahmen heraus eher sichtbar. Das „Red Team“ (die Gruppe, die ausdrücklich damit beauftragt ist, die Annahmen zu finden, die die Hauptgruppe nicht hinterfragt hat) ist eine institutionalisierte Version davon. Ebenso wie das Peer-Review, das nicht nur deshalb funktioniert, weil Experten Fehler aufdecken können, sondern weil Experten aus verschiedenen Teilbereichen die Annahmen erkennen können, die Praktiker eines einzelnen Teilbereichs durch Vertrautheit unsichtbar gemacht haben.

Das zweite ist das Pre-Mortem: das Gedankenexperiment, bei dem sich ein Team vor dem Handeln vorstellt, dass der Plan katastrophal gescheitert ist, und fragt, was schiefgelaufen ist. Das übliche Post-Mortem fragt, was schiefgelaufen ist, nachdem das Scheitern eingetreten ist. Das Pre-Mortem stellt dieselbe Frage im Voraus, was dazu führt, dass bestimmte unbekannte Unbekannte vorübergehend denkbar werden. Indem es die Erlaubnis gibt, sich ein Scheitern vorzustellen, schafft das Pre-Mortem einen momentanen Freiraum, um Bedenken zu äußern, die die Kultur des Engagements und des Optimismus rund um einen Plan sonst unterdrücken würde. Der Psychologe Gary Klein, der das Pre-Mortem als formale Methode entwickelte, stellte fest, dass dadurch regelmäßig Risiken zutage traten, die in herkömmlichen Planungsgesprächen nicht angesprochen worden waren.⁶

Der dritte Ansatz ist die Praxis, explizit und systematisch zu fragen, was wahr sein müsste, damit der aktuelle Plan scheitert. Dies ist die diagnostische Frage dieser Reihe, angewandt auf den vierten Quadranten: nicht, welche Beweise unsere Schlussfolgerung ändern würden, sondern welche Bedingungen gegeben sein müssten, damit die Schlussfolgerung falsch ist. Die Übung bringt die verborgenen Annahmen (die „bekannten Unbekannten“) ans Licht, die in jedem Plan die größte Rolle spielen, denn die Bedingungen, die den Plan scheitern lassen würden, sind oft genau jene Bedingungen, die aufgrund der Annahmen des Plans nicht vorhersehbar waren. Wenn ein Team fragt: „Was müsste zutreffen, damit dies scheitert?“, und bei der Antwort feststellt: „Der Markt müsste sich so verhalten, wie er sich noch nie zuvor verhalten hat“, hat es eine Annahme benannt, die zuvor unsichtbar war: die Annahme, dass das historische Marktverhalten unter den aktuellen Bedingungen ein verlässlicher Anhaltspunkt für das zukünftige Verhalten ist.

Der vierte Grundsatz ist Chestertons Zaun, der in Artikel 706 ausführlicher beschrieben wird: Eine Regelung sollte nicht abgeschafft werden (eine Praxis verworfen, eine Institution aufgelöst, eine Konvention aufgegeben), bevor der Grund für ihre Existenz verstanden wurde. Die Praktiken, die am willkürlichsten, am verschwenderischsten und am offensichtlichsten zur Abschaffung reif erscheinen, sind oft jene, die die Antwort auf ein unbekanntes Unbekanntes enthalten, das von einer früheren Generation unter gewissen Kosten entdeckt wurde. Das bürokratische Verfahren, das sinnlos erscheint, wurde wahrscheinlich als Reaktion auf ein bestimmtes Versagen geschaffen. Das Sicherheitsprotokoll, das übertrieben erscheint, wurde wahrscheinlich als Reaktion auf einen Unfall verfasst. Diese Praktiken sind Träger unbekannter Bekannter (von Lektionen, die institutionalisiert wurden, ohne explizit gelehrt zu werden), und sie zu beseitigen, bevor man versteht, was sie kodieren, ist der sicherste Weg, die ursprüngliche Lektion mit den ursprünglichen Kosten wiederzuentdecken.

Die weißen Flecken auf der Karte

Mittelalterliche Kartographen, die an die Grenzen ihrer bekannten Welt stießen, füllten die weißen Flecken mit Seeungeheuern. Die Ungeheuer waren keine Aussage über den tatsächlichen Inhalt dieser Regionen; sie waren eine notationstechnische Konvention, die bedeutete: Hier liegt das Unbekannte, und das Unbekannte ist gefährlich. Es ist eine ehrliche Konvention und, im relevanten Sinne, eine korrekte. Das unbekannte Unbekannte präsentiert sich nicht als Monster. Es präsentiert sich als gar nichts: als das Fehlen einer Kategorie, als die Stille, wo eine Frage stehen sollte, als die glatte Fortsetzung einer Karte, der einfach das darzustellende Gebiet ausgegangen ist.

Es gibt eine geometrische Beobachtung (die weithin Einstein zugeschrieben wird, in dessen Werk sich jedoch kein nachweisbarer Ursprung findet, und die es wegen ihrer Präzision wert ist, festgehalten zu werden, unabhängig davon, wer sie zuerst gemacht hat), die die Beziehung zwischen Wissen und Unwissenheit genauer erfasst als jede andere verfügbare Formulierung. Wenn sich der Kreis des Wissens ausdehnt, dehnt sich auch der Umfang der Dunkelheit aus, der ihn umgibt. Dies ist nicht bloß eine poetische Beobachtung. Es ist eine mathematische, und sie erfordert sorgfältiges Lesen, wenn sie nicht als Ratschlag der Verzweiflung missverstanden werden soll. Das Innere des Kreises (der Bereich, der gründlich erforscht wurde) ist wirklich bekannt und wird mit fortschreitender Forschung immer präziser erkannt. Die grundlegenden Mechanismen der Chemie, die Gesetze der Planetenbewegung, die Struktur des genetischen Codes: Diese werden mit dem Fortschritt der Wissenschaft nicht unsicherer. Sie werden immer enger eingegrenzt, präziser verifiziert und zuverlässiger anwendbar. In bayesianischer Terminologie wurde die A-priori-Wahrscheinlichkeit der Kernbefunde durch so viele Belege aktualisiert, dass die verbleibende Unsicherheit gering ist. Das Wissen im Inneren ist real und kumulativ. Was mit der Ausdehnung des Kreises wächst, ist nicht die Unwissenheit über das, was bereits bekannt ist. Es ist der Umfang, die Grenze, die sichtbare Trennlinie zwischen dem Erforschten und dem Unerforschten.

Der Mechanismus, der diese Ausdehnung antreibt, ist genau das, was Richard Feynman in seinem BBC-Interview von 1981 beschrieb, als er gefragt wurde, warum sich Magnete gegenseitig abstoßen.⁷ Feynmans Antwort bestand darin, die Frage abzulehnen, nicht aus Unwissenheit, sondern aus philosophischer Präzision. Jede Antwort, so wies er hin, wäre eine Erklärung in Bezug auf etwas anderes, etwas Vertrauteres. Und dieses „etwas anderes“ würde sofort ein neues „Warum“ aufwerfen. Warum ziehen sich entgegengesetzte Ladungen an? Wegen der Struktur des elektromagnetischen Feldes. Warum hat das elektromagnetische Feld diese Struktur? Wegen der Gleichungen der Quantenelektrodynamik. Warum gelten diese Gleichungen? An dieser Stelle hielt Feynman inne, denn am Grund der Erklärungshierarchie gibt es Dinge, die einfach sind, ohne dass ein bekannteres Rahmenwerk zur Verfügung steht, auf das man sie zurückführen könnte. Die Kette der Warum-Fragen endet nicht, weil die Realität an Tiefe verliert. Sie endet, weil die Fragen schließlich eine Ebene erreichen, auf der keine vertrauten Dinge mehr zur Verfügung stehen, die als Erklärung dienen könnten. Jede echte Antwort erzeugt ein tieferes Warum. Der Physiker, der die Quantenfeldtheorie beherrscht, nimmt eine Position ein, von der aus mehr der Physik sichtbar ist und von der aus die noch zu zurücklegende Strecke genauer eingeschätzt werden kann. Dies ist einer der Gründe, warum echte Fachkompetenz so konsequent Demut hervorbringt: nicht weil der Experte weniger weiß, sondern weil er von seiner Position an der Grenze aus sehen kann, wie viel von der Karte noch unerschlossen ist.

Es gibt eine weitere Beobachtung, die die Feynman-Kette ermöglicht, und sie ist die ehrlichste Grenze, die die Reihe anerkennen kann. Die Kette der „Warum“-Fragen ist im Prinzip unendlich. Die Realität ist nicht verpflichtet, an dem Punkt aufzuhören, erklärbar zu sein, an dem der menschliche Verstand nicht mehr in der Lage ist, der Erklärung zu folgen. Die Beschränkung ist nicht logischer Natur; es gibt grundsätzlich keinen Grund, warum die Kette enden sollte. Die Beschränkung ist kognitiver Natur: Die Architektur des menschlichen Verstandes wurde durch die Evolution für das Überleben in einer mittelgroßen Welt, bei mittleren Geschwindigkeiten und über mittlere Zeitspannen hinweg entwickelt, und es gibt keine Garantie dafür, dass sie dafür ausgerüstet ist, das zu begreifen, was auf den tiefsten Ebenen der physikalischen Realität liegt. An einem bestimmten Punkt des Abstiegs werden wir immer noch nach dem Warum fragen, und die Antwort mag existieren, mag in gewissem Sinne sogar mathematisch zugänglich sein, aber wir werden sie nicht in der Weise verstehen können, wie Feynman es mit „Verstehen“ meinte: als Reduktion auf etwas Vertrauteres, etwas, das man spürt, anstatt es bloß zu berechnen. Der Quadrant der unbekannten Unbekannten schrumpft nicht, wenn sich das Wissen erweitert. Aber das liegt nicht daran, dass Fortschritt eine Illusion ist. Es liegt daran, dass echter Fortschritt im Verständnis des Inneren gleichzeitig offenbart, wie viel mehr Äußeres es zu erforschen gibt, und daran, dass das Äußere, anders als das Innere, letztlich nicht nur unser derzeitiges Wissen, sondern unsere dauerhafte kognitive Reichweite übersteigen könnte. Das Wissen, dass die Erde um die Sonne kreist, warf die Frage auf, was die Erde bewegt, was wiederum die Frage aufwarf, was Schwerkraft ist, was die Frage aufwarf, was Raumzeit ist, was Fragen aufwarf, die bis heute offen sind. Jede Antwort ist eine echte Antwort. Jede Antwort wirft mehr Fragen auf, als sie beantwortet. Das ist kein Versagen des Wissens. Es ist seine charakteristische Struktur und seine charakteristische Demut.

Der bewusste Blick, angewandt auf die Quadranten von Wissen und Unwissenheit, ist die Praxis, zu fragen, wo die Karte endet: nicht, wo die bekannten Unbekannten liegen, denn diese sind bereits sichtbar, sondern wo der Rahmen selbst möglicherweise blinde Flecken erzeugt, die von innen heraus unsichtbar sind. Dies ist schwieriger als jede der oben beschriebenen spezifischen Strategien, denn es erfordert, das Instrument der Untersuchung infrage zu stellen und nicht nur die Schlussfolgerungen, die es hervorgebracht hat. Es ist der Unterschied zwischen der Frage, ob die Antwort richtig ist, und der Frage, ob die Frage die richtige war.

Es gibt keine Methode, die den Erfolg bei dieser Aufgabe garantiert. Es gibt keinen Rahmen zur Identifizierung der Grenzen von Rahmenwerken, der selbst frei von Grenzen ist. Die beste verfügbare Antwort auf diesen Regress ist keine technische Lösung, sondern eine Haltung: die Kombination aus echter intellektueller Demut hinsichtlich der Unvollständigkeit des eigenen aktuellen Modells und echter Neugierde darauf, was jenseits seiner Grenzen liegt. Nicht die vorgetäuschte Demut, die Unsicherheit als rhetorische Geste anerkennt, bevor man mit vollem Selbstvertrauen fortfährt, sondern die operative Demut, die tatsächlich verändert, wie ein Plan entworfen wird, wie eine Schlussfolgerung relativiert wird und wie eine Überraschung aufgenommen wird, wenn sie eintritt. Die Überraschung, wenn sie kommt, ist das Datenmaterial. Das Modell, das sie als solches aufnehmen kann (anstatt sie als Rauschen, Anomalie oder Sabotage wegzuerklären), ist das Modell, das lernfähig ist. Und ein Modell, das lernfähig ist, ist im einzig entscheidenden Sinne ein Modell, das etwas über seine eigenen Grenzen weiß.

Weiterführende Literatur

Nassim Nicholas Talebs The Black Swan: The Impact of the Highly Improbable (2007) ist die einflussreichste populärwissenschaftliche Auseinandersetzung mit dem dritten Quadranten: mit den Ereignissen, die außerhalb jedes Modells liegen, weil das Modell auf Daten aufgebaut wurde, die diese nicht enthalten. Taleb ist polemisch und manchmal ungenau, aber das zentrale Argument ist wichtig und wird mit ungewöhnlicher Kraft vorgebracht. Sein früheres Buch, Fooled by Randomness (2001), behandelt verwandte Themen mit etwas mehr technischer Grundlage.

Charles Perrows „Normal Accidents: Living with High-Risk Technologies“ (1984) ist das Standardwerk zum Thema Versagen in komplexen Systemen: darüber, wie die Wechselwirkungen zwischen Komponenten zu Ergebnissen führen, die keine Analyse der einzelnen Komponenten hätte vorhersagen können. Es ist Pflichtlektüre für jeden, der Systeme entwirft, bei denen Ausfälle schwerwiegende Folgen haben, und es liefert die theoretische Grundlage für das Verständnis, warum der dritte Quadrant nicht bloß ein Versagen der individuellen Vorausschau ist, sondern eine strukturelle Eigenschaft komplexer gekoppelter Systeme.

Michael Polanyis The Tacit Dimension (1966) ist das Standardwerk zum vierten Quadranten: zu Wissen, das in der Praxis vorhanden ist, aber nicht explizit formuliert werden kann. Es ist kurz, gut lesbar und einer der originellsten Beiträge zur Erkenntnistheorie des 20. Jahrhunderts. Die Implikationen für Bildung, institutionelle Gestaltung und das Management von Fachwissen wurden in vielen nachfolgenden Büchern ausgearbeitet, doch das Original bleibt unverzichtbar.

Gary Kleins Sources of Power: How People Make Decisions (1998) entwickelt das „Pre-Mortem“ und andere Methoden, um unbekannte Unbekannte vorübergehend sichtbar zu machen, und zwar durch die systematische Untersuchung der Entscheidungsfindung von Experten unter Unsicherheit. Es ist die praktische Ergänzung zu den eher theoretischen Abhandlungen in den anderen Empfehlungen.

Anmerkungen

¹ Die Geistesgeschichte der Unterscheidung zwischen „bekanntem“ und „unbekanntem“ reicht weit über Rumsfelds Formulierung von 2002 hinaus. Varianten dieser Taxonomie finden sich in der sokratischen Tradition (Sokrates’ Anspruch auf Weisheit bestand gerade darin, zu wissen, dass er nichts wusste, was die Umwandlung eines „unbekannten Unbekannten“ in ein „bekanntes Unbekanntes“ darstellt) sowie in der erkenntnistheoretischen Literatur seit mindestens dem 17. Jahrhundert. Im 20. Jahrhundert wurde das Rahmenkonzept im Kontext der Theorie des organisationalen Lernens weiterentwickelt, insbesondere von den Managementwissenschaftlern Chris Argyris und Donald Schön, deren Konzept des Double-Loop-Lernens sich mit der spezifischen Herausforderung befasst, die Annahmen zu überarbeiten, die ein Modell bestimmen, anstatt lediglich die Schlussfolgerungen des Modells. Die präziseste zeitgenössische Formulierung vor Rumsfeld findet sich im Werk der Philosophin Ann Kerwin, deren Aufsatz „None Too Solid: Medical Ignorance“ aus dem Jahr 1993 das Quadranten-Modell explizit vorstellte. Rumsfelds Formulierung ließ den vierten Quadranten, die „unbekannten Bekannten“, aus, den der Philosoph Slavoj Žižek in einem viel beachteten Kommentar zur ursprünglichen Aussage hinzufügte.

² Der vierte Quadrant, die „unbekannten Bekannten“, wurde Rumsfelds ursprünglicher dreiteiliger Taxonomie von mehreren Kommentatoren hinzugefügt, allen voran vom Philosophen Slavoj Žižek in einem Essay aus dem Jahr 2004. Der Begriff erfasst das Phänomen, das Polanyi Jahrzehnte zuvor unter dem Begriff „tacit knowledge“ (implizites Wissen) beschrieben hatte und das Argyris und Schön im organisatorischen Kontext unter dem Begriff „theories-in-use“ (angewandte Theorien) beschrieben hatten: die impliziten Theorien, die das tatsächliche Verhalten bestimmen, im Gegensatz zu den „espoused theories“ (vertretenen Theorien), die Menschen bewusst vertreten und artikulieren. Die Kluft zwischen „Theories-in-use“ und „espoused theories“ ist eine der beständigsten Erkenntnisse in der Erforschung des Organisationsverhaltens und steht in direktem Zusammenhang mit dem Status des vierten Quadranten als „unbekanntes Wissen“.

³ Das Versagen der Risikomodelle für hypothekenbesicherte Wertpapiere in der Finanzkrise 2007–2008 wurde in mehreren nachfolgenden Darstellungen ausführlich analysiert. Das spezifische Versagen der Korrelationsannahmen (die Behandlung landesweiter gleichzeitiger Immobilienpreisrückgänge als vernachlässigbar unwahrscheinlich) wird in Ricardo Rebonatos Plight of the Fortune Tellers (2007) beschrieben, das vor der Krise verfasst wurde, aber genau diesen Versagensmodus vorhersagte, und im Nachhinein in Michael Lewis’ The Big Short (2010) sowie im Financial Crisis Inquiry Commission Report (2011) analysiert. Der mathematische Apparat, der zu diesem Versagen führte (insbesondere die Gaußsche Kopula-Funktion, die zur Modellierung von Ausfallkorrelationen verwendet wurde), wird in Felix Salmons Wired-Artikel „The Formula That Killed Wall Street“ aus dem Jahr 2009 verständlich erläutert.

⁴ Perrow, C. (1984). Normal Accidents: Living with High-Risk Technologies. Basic Books. Perrows zentrales Konzept, interaktive Komplexität in Verbindung mit enger Kopplung, identifiziert die strukturellen Eigenschaften von Systemen, die normale Unfälle als Klasse vorhersehbar machen, auch wenn sie in ihrer konkreten Ausprägung unvorhersehbar sind. Ein System ist interaktiv komplex, wenn seine Komponenten auf eine Weise interagieren, die bei der Konstruktion nicht vollständig vorhersehbar ist; es ist eng gekoppelt, wenn ein Ausfall einer Komponente sich rasch auf andere ausbreitet, bevor er isoliert und behoben werden kann. Kernkraftwerke, chemische Verarbeitungsanlagen, Flugzeuge und, wie er später argumentierte, Finanzsysteme weisen alle beide Eigenschaften auf, weshalb sie systematisch anfällig für Ausfälle sind, die aus unerwarteten Kombinationen von einzeln geringfügigen Fehlern entstehen.

⁵ Polanyi, M. (1966). The Tacit Dimension. Doubleday. Polanyis Formulierung „Wir wissen mehr, als wir sagen können“ ist eine der meistzitierten in der Erkenntnistheorie und erfasst den vierten Quadranten präziser als jede alternative Formulierung. Polanyis Beispiele reichen vom Wahrnehmungsbereich bis hin zur Wissenschaft: das Erkennen eines Gesichts, das wir zuverlässig vollziehen können, ohne die Merkmale zu spezifizieren, auf die wir reagieren; und das Urteil eines erfahrenen Experimentators darüber, ob ein Ergebnis zuverlässig ist, das sich nicht vollständig auf explizite Kriterien reduzieren lässt. Die Implikationen für die Erkenntnistheorie sind erheblich: Wenn vieles von dem, was wir wissen, nicht in Worte gefasst werden kann, dann ist das explizite Wissen, das für formale Weitergabe und Verifizierung zur Verfügung steht, nicht alles und möglicherweise nicht einmal der wichtigste Teil dessen, was wir wissen.

⁶ Klein, G. (1998). Sources of Power: How People Make Decisions. MIT Press. Das Pre-Mortem wird in Kapitel 12 beschrieben. Kleins Entwicklung der „erkennungsgesteuerten Entscheidungsfindung“ (die Beobachtung, dass erfahrene Entscheidungsträger natürliche Situationen als typisch für bekannte Muster erkennen und die Reaktion anwenden, die zuvor funktioniert hat, anstatt Optionen analytisch zu bewerten) liefert den kognitiven Hintergrund für das Verständnis, warum das Pre-Mortem notwendig ist: Die Kultur des Engagements, die jeden ausreichend ambitionierten Plan umgibt, unterdrückt systematisch die Bedenken, die das Pre-Mortem an die Oberfläche bringen soll. Die Methode funktioniert gerade deshalb, weil sie die ausdrückliche Erlaubnis erteilt, das auszusprechen, was aufgrund des vorherrschenden Optimismus im Planungsprozess sozial kostspielig geworden ist.

⁷ Das hier erwähnte BBC-Interview ist die Horizon-Dokumentation „The Pleasure of Finding Things Out“ aus dem Jahr 1981, in der der Interviewer Christopher Sykes Feynman bittet, zu erklären, warum sich Magnete anziehen und abstoßen. Feynmans siebenminütige Antwort ist eine der lehrreichsten verfügbaren Darstellungen dessen, was es bedeutet, etwas zu erklären: was eine Erklärung ist, was als zufriedenstellende Erklärung gilt und warum am Ende jeder Erklärungskette immer eine unverfälschte Tatsache steht, die nicht weiter reduziert werden kann. Das vollständige Interview ist online frei verfügbar und lohnt sich, mehrmals angesehen zu werden. Der konkrete Bezug zum Bild des Wissenskreises ist folgender: Feynmans Kette von „Warum“-Fragen ist genau der Mechanismus, durch den sich der Umfang erweitert. Jede Antwort auf eine „Warum“-Frage an der Grenze erzeugt ein neues „Warum“ auf einer tieferen Ebene und verschiebt die Grenze weiter nach außen. Die Grenze verschwindet nicht, wenn das Innere verstanden wird. Sie verlagert sich an eine Position, die weiter von der gewöhnlichen Erfahrung entfernt und näher an den Grenzen dessen liegt, was die menschliche kognitive Architektur nachvollziehen kann. Artikel 408 dieser Reihe untersucht das Feynman-Interview genauer, insbesondere im Hinblick auf die Grenzen wissenschaftlicher Erklärung und die Unterscheidung zwischen Erklärung und Beschreibung.