210 – Der Katalog der kognitiven Fehlschlüsse

Wie sich der Verstand systematisch in die Irre führt

Im Frühjahr 1972 lud der Psychologe Amos Tversky eine Gruppe von Ärzten ein, die Wahrscheinlichkeit abzuschätzen, mit der ein hypothetischer Patient an Lungenkrebs litt, vorausgesetzt, ein diagnostischer Test mit bekannter Sensitivität und Spezifität hatte ein positives Ergebnis ergeben. Die Ärzte waren erfahren, das Szenario war realistisch, und sie verfügten über alle Informationen, die sie benötigten, um den Satz von Bayes korrekt anzuwenden. Fast keiner von ihnen tat dies. Sie überschätzten die Wahrscheinlichkeit für Krebs um das Fünf- bis Zehnfache, und zwar in einer konsistenten und vorhersehbaren Richtung. Als Tversky und sein Kollege Daniel Kahneman den Fehler analysierten, stellten sie fest, dass die Ärzte keine zufälligen Fehler machten. Sie machten denselben Fehler in derselben Richtung aus demselben strukturellen Grund: Sie ignorierten die Basisrate (die A-priori-Wahrscheinlichkeit, dass ein beliebiger Patient vor dem Test Lungenkrebs hat) und berücksichtigten nur die Genauigkeit des Tests. Der Fehler war kein Versagen der Intelligenz. Es handelte sich um ein Versagen besonderer Art, das sich über Bevölkerungsgruppen, Fachgebiete und Bildungsniveaus hinweg mit bemerkenswerter Konsistenz wiederholt.

Das ist es, was kognitive Irrtümer von gewöhnlichen Fehlern unterscheidet. Ein gewöhnlicher Fehler ist das Ergebnis von Unaufmerksamkeit, Müdigkeit, unzureichenden Informationen oder Pech. Er hat keine bestimmte Richtung und kann im Prinzip durch mehr Sorgfalt, mehr Informationen oder bessere Umstände korrigiert werden. Ein kognitiver Irrtum ist etwas anderes: Es handelt sich um einen systematischen, vorhersehbaren, gerichteten Fehler, der aus dem normalen Ablauf kognitiver Prozesse entsteht, die in den meisten Kontexten zuverlässig und nützlich sind. Der Arzt, der Basisraten ignoriert, handelt nicht nachlässig. Er wendet eine Heuristik an (sich auf die spezifischen, konkreten Informationen zu konzentrieren, die zur Verfügung stehen), die in den meisten Alltagssituationen zuverlässig funktioniert, aber gerade in Kontexten versagt, in denen statistisches Denken gefragt ist. Der Irrtum ist keine Fehlfunktion des Systems. Er ist das normale Ergebnis eines Systems, das für eine bestimmte Umgebung optimiert ist und in einer anderen angewendet wird.

Dieser Artikel listet die wichtigsten kognitiven Irrtümer auf – nicht als vollständige Taxonomie, wofür ein Lehrbuch erforderlich wäre, sondern als Übersicht über das Terrain, die sich eher an den zugrunde liegenden Mechanismen als an den einzelnen Fehlern orientiert. Das Ziel ist nicht, eine Checkliste zu erstellen, die mechanisch auf bestimmte Argumente angewendet werden kann, sondern ein Gespür für die charakteristischen Arten zu entwickeln, in denen die menschliche Kognition fehlschlägt: ein Gespür, das in Echtzeit auf reale Argumente – einschließlich der eigenen – angewendet werden kann.

Der Hauptirrtum: die Bestätigungsverzerrung

Wenn es einen einzigen kognitiven Irrtum gibt, der allen anderen zugrunde liegt und sie verstärkt, dann ist es die Bestätigungsverzerrung: die Tendenz, Informationen so zu suchen, wahrzunehmen, zu interpretieren und zu behalten, dass sie das bestätigen, woran wir bereits glauben. Die Bestätigungsverzerrung ist nicht, wie manchmal beschrieben, eine Tendenz, Informationen zu ignorieren, die im Widerspruch zu unseren Überzeugungen stehen. Sie ist subtiler und allgegenwärtiger als das. Er wirkt in jeder Phase des Informationsverarbeitungsprozesses: bei dem, was wir suchen, bei der Art und Weise, wie wir das gefundenes interpretieren, bei dem, was wir im Gedächtnis speichern, und bei dem, was wir abrufen, wenn wir logisch argumentieren.

Die ursprüngliche Demonstration von Peter Wason aus dem Jahr 1960 ist nach wie vor die anschaulichste.¹ Den Teilnehmern werden vier Karten gezeigt, auf deren einer Seite jeweils ein Buchstabe und auf der anderen eine Zahl steht. Die sichtbaren Seiten zeigen E, K, 4, 7. Ihnen wird gesagt, dass die zu prüfende Regel lautet: Wenn eine Karte auf der einen Seite einen Vokal hat, hat sie auf der anderen Seite eine gerade Zahl. Welche Karten müssen umgedreht werden, um die Regel zu überprüfen? Die logisch richtige Antwort lautet E und 7: das E, weil eine Karte mit einem Vokal auf der Rückseite eine gerade Zahl haben muss, und die 7, weil eine Karte mit einer ungeraden Zahl auf der Rückseite keinen Vokal haben darf. Das K ist irrelevant und die 4 ist irrelevant. Die meisten Teilnehmer wählen E und 4: Sie suchen nach bestätigenden Beweisen (ein Vokal gepaart mit einer geraden Zahl) statt nach widerlegenden Beweisen (ein Vokal gepaart mit einer ungeraden Zahl oder eine ungerade Zahl gepaart mit einem Vokal). Sie testen die Regel, indem sie nach Fällen suchen, in denen sie zutrifft, statt nach Fällen, in denen sie möglicherweise nicht zutrifft.

Die Wason-Aufgabe ist ein abstraktes logisches Rätsel. Die Bestätigungsverzerrung im realen Leben hat wesentlich schwerwiegendere Folgen. Der Investor, der Finanznachrichten durch die Brille seiner bestehenden Position liest, nimmt die Berichte wahr, die seine These bestätigen, und ignoriert diejenigen, die sie infrage stellen. Der Manager, der sich entschieden hat, einen Bewerber einzustellen, interpretiert die Erkenntnisse aus dem Vorstellungsgespräch so, dass sie die bereits getroffene Entscheidung stützen. Der Wissenschaftler, der emotional an einer Hypothese festhält, entwirft Experimente, die diese eher bestätigen als infrage stellen. In jedem Fall ist die Verzerrung nicht absichtlich. Der Investor unterdrückt nicht bewusst Berichte, die seine These widerlegen. Der Manager interpretiert das Vorstellungsgespräch nicht bewusst falsch. Der Wissenschaftler entwirft nicht bewusst ein voreingenommenes Experiment. Die Bestätigungsverzerrung findet unterhalb der Ebene bewusster Entscheidungen statt – in den automatischen Prozessen, durch die die Aufmerksamkeit gelenkt und Beweise gewichtet werden.

Die diagnostische Frage aus Artikel 101 (Was müsste wahr sein, damit dies falsch ist?) ist das spezifische Gegenmittel gegen die Bestätigungsverzerrung auf der Ebene individueller Überzeugungen. Das systematische Gegenmittel erfordert jedoch etwas Strukturelleres: die bewusste Pflege der Gewohnheit, nach widerlegenden Belegen zu suchen, bevor man bestätigende Belege heranzieht; zu fragen, was schiefgehen könnte, bevor man fragt, was gut laufen könnte; Übereinstimmung als potenziell verdächtig zu betrachten, anstatt sie automatisch als beruhigend anzusehen. Das ist unangenehm, denn die Bestätigung durch Belege, die mit den eigenen bestehenden Überzeugungen übereinstimmen, fühlt sich gut an – im Gegensatz zur Herausforderung durch widerlegende Belege. Dieses Unbehagen ist aufschlussreich. Es ist das Signal dafür, dass die Verzerrung aktiv überwunden wird, anstatt ihr passiv nachzugeben.

Die Verfügbarkeitsheuristik und was sie falsch darstellt

Die Verfügbarkeitsheuristik ist die Tendenz, die Wahrscheinlichkeit oder Häufigkeit eines Ereignisses danach einzuschätzen, wie leicht einem Beispiele in den Sinn kommen. Ereignisse, die lebhaft, aktuell, emotional bedeutsam oder persönlich erlebt sind, fallen einem leicht ein und werden daher als wahrscheinlicher oder häufiger eingeschätzt als Ereignisse, die statistisch häufiger vorkommen, aber kognitiv weniger zugänglich sind.

Tversky und Kahneman dokumentierten diese Heuristik in einer Reihe von Studien, die zeigten, dass Menschen die Häufigkeit dramatischer Todesursachen (Flugzeugabstürze, Mord, Tornados) systematisch überschätzen und die Häufigkeit alltäglicher Ursachen (Diabetes, Magenkrebs, Schlaganfall) systematisch unterschätzen – und zwar in direktem Verhältnis zu deren Medienpräsenz und emotionaler Brisanz und nicht zu ihrer tatsächlichen Prävalenz. ² Wer kürzlich einen Flug mit Turbulenzen erlebt hat, wird das Risiko von Flugreisen noch Wochen danach überschätzen. Wer eine Dokumentation über Haiangriffe gesehen hat, wird das Risiko des Schwimmens im Meer überschätzen. Eltern, die einen Nachrichtenbericht über Kindesentführungen gelesen haben, werden das Risiko für ihr eigenes Kind überschätzen. In jedem Fall lenkt die Verfügbarkeit des Beispiels die Wahrscheinlichkeitsschätzung in eine Richtung, die nichts mit der tatsächlichen Häufigkeit zu tun hat.

Die Verfügbarkeitsheuristik ist nicht einfach nur ein Irrtum. Sie ist eine vernünftige Heuristik in Umgebungen, in denen die Häufigkeit von Ereignissen im Gedächtnis mit der Häufigkeit von Ereignissen in der Welt korreliert – was in den meisten Alltagskontexten mit direkter persönlicher Erfahrung zutrifft. Der Trugschluss entsteht insbesondere in Umgebungen, in denen die Auswahl der Informationen, die wir erhalten, systematisch verzerrt ist: dort, wo Medien, soziale Netzwerke oder persönliche Umstände bestimmte Ereignisse kognitiv viel präsenter machen, als es ihre tatsächliche Häufigkeit rechtfertigen würde. Die Nachrichten berichten naturgemäß eher über das Ungewöhnliche als über das Typische, eher über das Dramatische als über das Alltägliche, eher über das Lokale als über das Globale. Eine ständige Flut von Nachrichten verzerrt daher systematisch die Verfügbarkeit verschiedener Ereignisse und erzeugt ein Weltbild, das dramatische Risiken überbewertet und die langsamen, sich anhäufenden Bedrohungen unterbewertet, die die meisten Menschen töten.

Die praktische Konsequenz ist, dass eine auf Verfügbarkeit basierende Risikoeinschätzung systematisch in vorhersehbare Richtungen verzerrt wird. Politische Maßnahmen, die von auffälligen Ereignissen der jüngsten Vergangenheit getrieben werden (der Sicherheitsapparat nach dem 11. September, der durch umgeleitete Verkehrsströme mehr Menschen tötete, als durch die Verhinderung von Terrorismus gerettet wurden; die Rahmenbedingungen für die Einstufung von Drogen, die sich eher an den zuletzt publik gemachten Missbrauchsfällen als an vergleichenden Schadensbewertungen orientieren), sind auf Verfügbarkeitsheuristiken basierende Maßnahmen: Maßnahmen, deren Prioritäten eher durch kognitive Zugänglichkeit als durch Beweise festgelegt werden. Das Gegenmittel ist nicht die Unterdrückung der intuitiven Risikoeinschätzung (die oft schnell und nützlich ist), sondern deren Ergänzung durch Informationen zur Grundhäufigkeit, die die Heuristik systematisch außer Acht lässt.

Verankerung: Die Tyrannei der ersten Zahl

Der Verankerungseffekt ist die Tendenz, sich bei nachfolgenden Urteilen unverhältnismäßig stark auf die erste Information zu stützen, auf die man stößt (den Anker). Ist ein Anker einmal gesetzt, reicht eine Anpassung davon in der Regel nicht aus: Die endgültige Schätzung bleibt zu nah am Ausgangspunkt, unabhängig davon, ob dieser Ausgangspunkt einen rationalen Bezug zur gestellten Frage hat.

Tversky und Kahneman demonstrierten den Effekt anhand eines Roulette-Rads, das die Teilnehmer beobachten sollten, bevor sie den prozentualen Anteil afrikanischer Länder in den Vereinten Nationen schätzen sollten.³ Teilnehmer, die sahen, wie das Rad bei 65 zum Stillstand kam, schätzten im Durchschnitt 45 Prozent. Teilnehmer, bei denen das Rad bei 10 zum Stillstand kam, schätzten im Durchschnitt 25 Prozent. Das Roulette-Rad ist für die Frage offensichtlich irrelevant. Dem Ankereffekt ist das jedoch egal. Die erste Zahl, auf die man stößt, prägt die nachfolgende Schätzung in einer Richtung, die auch dann bestehen bleibt, wenn auf die Irrelevanz des Ankers hingewiesen wird.

Die Verankerung wirkt in jedem Bereich, in dem numerische Schätzungen vorgenommen werden, und in jedem Bereich, in dem Ausgangspositionen nachfolgende Verhandlungen prägen. Bei Gehaltsverhandlungen, bei denen das erste Angebot den Rahmen für alles Folgende vorgibt. Bei der Zuerkennung von Schadensersatz, bei der die ursprüngliche Forderung des Klägers die Beratungen der Geschworenen verankert. Beim Hauskauf, bei dem der Angebotspreis die Einschätzung des fairen Werts durch den Käufer verankert. Die Produktbewertung, bei der die erste gelesene Bewertung alle nachfolgenden Bewertungen verankert. In jedem Fall ist der Anker nicht bloß ein Ausgangspunkt, der anschließend revidiert wird. Er ist ein kognitiver Rahmen, der die Verarbeitung nachfolgender Informationen auf eine Weise prägt, die selbst bei vollem Bewusstsein für diesen Effekt nur sehr schwer zu überwinden ist.

Die praktische Konsequenz daraus ist, dass die Reihenfolge, in der Informationen präsentiert werden, keine neutrale Formatierungsentscheidung ist. Sie hat einen wesentlichen Einfluss auf die gezogenen Schlussfolgerungen. Wer auch immer in einer Verhandlung die Ausgangsposition festlegt, den Anfangspreis bestimmt oder in einem Gruppenentscheidungsprozess die erste Schätzung abgibt, hat einen unverhältnismäßig großen Einfluss auf das Ergebnis – nicht durch die Qualität seiner Argumente, sondern durch die kognitiven Mechanismen der Verankerung. Das Gegenmittel besteht darin, eine eigene, unabhängige Schätzung zu erstellen, bevor man auf einen Anker stößt: sich auf eine Zahl festzulegen, bevor die Verhandlung beginnt, bevor der Angebotspreis gesehen wird, bevor die erste Bewertung gelesen wird. Ist man erst einmal auf einen Anker gestoßen, lässt sich dessen Einfluss allein durch bewusstes Nachdenken nur sehr schwer beseitigen.

Die Repräsentativitätsheuristik und die Vernachlässigung der Basisrate

Die Repräsentativitätsheuristik ist die Tendenz, die Wahrscheinlichkeit, dass etwas zu einer Kategorie gehört, danach zu beurteilen, wie sehr es dem typischen Vertreter dieser Kategorie ähnelt, während die Basisrate ignoriert wird: die vorab bestehende Wahrscheinlichkeit der Zugehörigkeit zu einer Kategorie, die als Anker für die Beurteilung dienen sollte. Dies ist die Heuristik, die zu den Fehlern der Ärzte in Tverskys erster Studie führte, und sie gehört zu den folgenschwersten kognitiven Irrtümern in der Medizin, im Rechtswesen und bei alltäglichen Entscheidungen.

Kahnemans und Tverskys berühmteste Demonstration betraf eine Figur namens Linda.⁴ Den Teilnehmern wurde mitgeteilt, dass Linda 31 Jahre alt, ledig, offen und sehr intelligent sei. Sie habe Philosophie studiert. Als Studentin beschäftigte sie sich intensiv mit Fragen der Diskriminierung und der sozialen Gerechtigkeit und nahm zudem an Anti-Atomkraft-Demonstrationen teil. Anschließend wurden die Teilnehmer gebeten, mehrere Aussagen nach ihrer Wahrscheinlichkeit zu ordnen. Die Aussage „Linda ist Bankangestellte“ und die Aussage „Linda ist Bankangestellte und engagiert sich in der feministischen Bewegung“ waren beide enthalten. Fünfundachtzig Prozent der Teilnehmer stuften die Konjunktion als wahrscheinlicher ein als die einzelnen Aussagen. Eine Konjunktion kann jedoch nicht wahrscheinlicher sein als eine ihrer beiden Komponenten: Die Menge der Bankangestellten, die feministische Aktivistinnen sind, ist eine Teilmenge der Menge aller Bankangestellten, daher muss „Bankangestellte und Feministin“ weniger wahrscheinlich sein als „Bankangestellte“ allein. Die Teilnehmer argumentierten nicht über Wahrscheinlichkeit. Sie beurteilten die Repräsentativität (wie gut Linda dem Prototyp einer feministischen Aktivistin und Bankangestellten im Vergleich zu einer gewöhnlichen Bankangestellten entspricht), und die Verknüpfung ergab eine bessere Übereinstimmung mit dem Prototyp.

Das Linda-Problem ist bekannt und wurde bereits ausführlich diskutiert. Der zugrunde liegende Mechanismus (das Ignorieren von Basisraten zugunsten der Übereinstimmung mit dem Prototyp) hat weitaus schwerwiegendere Folgen in den Bereichen, in denen er weniger sichtbar ist. Der Arzt, der weiß, dass ein Patient eine Reihe von Symptomen aufweist, die typisch für eine seltene Krankheit sind, überschätzt die Wahrscheinlichkeit dieser Krankheit im Vergleich zu der häufigeren Krankheit, die ähnliche Symptome hervorruft, da das Symptommuster deutlicher mit dem Prototyp der seltenen Krankheit übereinstimmt. Der Manager, der einen Bewerber als äußerst geeignet einschätzt, weil dieser seinem Erfahrungsbild vom Prototyp eines erfolgreichen Mitarbeiters entspricht, ignoriert die Grundwahrscheinlichkeit der Bewerberqualität und überschätzt die Erfolgswahrscheinlichkeit. Der Investor, der ein Unternehmen als gute Investition einschätzt, weil es dem Profil früherer erfolgreicher Unternehmen ähnelt, ignoriert die Grundwahrscheinlichkeit der Investitionsrenditen und überschätzt die Wahrscheinlichkeit einer überdurchschnittlichen Wertentwicklung.

Die Vernachlässigung der Basisrate steht in direktem Zusammenhang mit der in Artikel 209 erörterten Unterscheidung zwischen Wissen und Überzeugung. Die Basisrate ist die A-priori-Wahrscheinlichkeit (die Wahrscheinlichkeit, bevor spezifische Informationen berücksichtigt werden), und ihre Ignorierung führt zum Gettier-Wissensproblem in probabilistischer Form: ein Urteil, das in einem bestimmten Fall zufällig richtig ist, aber durch eine Methode zustande kommt, die in ähnlichen Fällen nicht zuverlässig richtig wäre, da die Methode die wichtigsten verfügbaren statistischen Informationen ignoriert.

Der Halo- und der Horn-Effekt: Wie erste Eindrücke nachfolgende Urteile verzerren

Der Halo-Effekt ist die Tendenz, dass ein positiver Eindruck in einer Dimension Urteile in anderen, nicht damit zusammenhängenden Dimensionen beeinflusst. Sein Gegenstück, der Horn-Effekt, ist die Tendenz, dass ein negativer Eindruck in einer Dimension systematisch negative Urteile in nicht damit zusammenhängenden Dimensionen hervorruft. Zusammen führen sie zu einem Muster, bei dem Gesamtbewertungen eher von einem einzigen auffälligen Merkmal als von einer genauen Beurteilung mehrerer unabhängiger Merkmale bestimmt werden.

Edward Thorndike identifizierte den Halo-Effekt 1920 in einer Studie, in der Militäroffiziere ihre Untergebenen bewerteten.⁵ Offiziere, die einen Soldaten hinsichtlich seines äußeren Erscheinungsbildes hoch bewerteten, bewerteten ihn auch in Bezug auf Intelligenz, Führungsqualitäten und Charakter hoch, selbst wenn diese Merkmale unabhängig voneinander beurteilt wurden und eigentlich nicht miteinander korrelieren sollten. Die Bewertung des Aussehens beeinflusste alle anderen Bewertungen. Kahneman erweiterte die Analyse, um das zu beschreiben, was er als WYSIATI-Prinzip (What You See Is All There Is) bezeichnet: die Tendenz des kognitiven Systems, aus den gerade verfügbaren Informationen eine schlüssige Geschichte zu konstruieren, ohne das Fehlen von Informationen zu registrieren, die für eine vollständige Beurteilung relevant wären.

Der Halo-Effekt ist besonders folgenreich in Bewertungskontexten (Vorstellungsgespräche, akademische Beurteilungen, Leistungsbeurteilungen, Gerichtsverfahren), in denen die Aufgabe ausdrücklich darin besteht, mehrere unabhängige Merkmale zu bewerten und zu einem Gesamturteil zu gelangen. Die Forschung zu Vorstellungsgesprächen ist eindeutig: Interviewer, die sich einen positiven ersten Eindruck von einem Bewerber verschaffen, bewerten alle nachfolgenden Informationen günstiger, und Interviewer, die einen negativen ersten Eindruck gewinnen, verfahren umgekehrt; in beiden Fällen entstehen Bewertungen, die eher vom ersten Eindruck als von den im Gespräch gewonnenen Erkenntnissen bestimmt sind. Das strukturierte Vorstellungsgespräch (bei dem Fragen in einer festgelegten Reihenfolge gestellt werden, Antworten vor der nächsten Frage bewertet werden und der Interviewer daran gehindert wird, einen kumulativen Eindruck zu gewinnen) reduziert den Halo-Effekt erheblich. Seine Anwendung ist unangenehm, da es sich weniger wie eine echte menschliche Begegnung und eher wie ein Bewertungsprotokoll anfühlt. Genau dieses Unbehagen ist der springende Punkt: Die Behaglichkeit einer unstrukturierten Interaktion ist zugleich die Behaglichkeit des Halo-Effekts.

Gruppenvoreingenommenheit und die asymmetrische Anwendung von Beweisstandards

Gruppenvoreingenommenheit ist die Tendenz, die Behauptungen, Argumente und Verhaltensweisen von Mitgliedern der eigenen Gruppe günstiger zu bewerten als gleichwertige Behauptungen, Argumente und Verhaltensweisen von Mitgliedern anderer Gruppen. Sie wirkt zusammen mit der Bestätigungsverzerrung und führt zu den asymmetrischen Beweisstandards, die in Artikel 207 im Zusammenhang mit selektiver Skepsis beschrieben wurden: Dieselben Beweise werden als zuverlässiger, methodisch fundierter und schlüssiger beurteilt, wenn sie von einer vertrauenswürdigen Quelle aus der eigenen Gruppe stammen, als wenn sie von einer Quelle aus einer fremden Gruppe stammen.

Henri Tajfels Minimalgruppen-Experimente in den frühen 1970er Jahren zeigten, dass die In-Group-Voreingenommenheit fast keine Auslöser benötigt, um aktiv zu werden. ⁶ Teilnehmer, die nach einem so willkürlichen Kriterium wie der Präferenz für einen von zwei abstrakten Malern in Gruppen eingeteilt wurden, wiesen den Mitgliedern ihrer eigenen Gruppe sofort mehr Ressourcen zu, bewerteten diese als kompetenter und sympathischer und interpretierten mehrdeutige Informationen zugunsten der Mitglieder ihrer eigenen Gruppe – und das alles auf der Grundlage einer Gruppenzugehörigkeit, die erst seit wenigen Minuten bestand und weder eine gemeinsame Geschichte noch gemeinsame Erfahrungen noch eine objektive Grundlage für Loyalität aufwies.

Die „Minimal-Group“-Erkenntnis ist wichtig, weil sie zeigt, dass die In-Group-Voreingenommenheit nicht in erster Linie eine Folge echter gemeinsamer Interessen, einer gemeinsamen Geschichte oder echter Kenntnisse über die Qualitäten der Mitglieder der eigenen Gruppe ist. Sie wird allein durch die Kategorisierung (durch die Zuordnung zu einer Gruppe) ausgelöst, unabhängig vom Inhalt der Gruppe oder der Grundlage der Zuordnung. In Kontexten, in denen die Gruppenzugehörigkeit besonders hervorsteht (politische Zugehörigkeit, nationale Identität, Berufsgemeinschaft, religiöse Zugehörigkeit), ist die Voreingenommenheit entsprechend stärker und wirkt genau in den Bereichen, in denen eine genaue Bewertung von Belegen am wichtigsten ist.

Die In-Group-Voreingenommenheit steht in Wechselwirkung mit dem in Artikel 208 beschriebenen Befund zur motivierten Rechenkompetenz: Höhere kognitive Fähigkeiten verstärken die Voreingenommenheit in politisch aufgeladenen Bereichen, anstatt sie zu verringern, da höhere Fähigkeiten eine ausgefeiltere Argumentation ermöglichen, um Beweise aus der Out-Group abzuwerten und Beweise aus der In-Group aufzuwerten. Das Gegenmittel ist eher struktureller als individueller Natur: die Vorregistrierung von Hypothesen vor der Datenerhebung, die Verblindung der Gutachter hinsichtlich der institutionellen Zugehörigkeit der Autoren sowie die kontroverse Zusammenarbeit, bei der Forscher mit gegensätzlichen Ansichten gemeinsam Studien konzipieren. Diese Strukturen sind speziell darauf ausgelegt, zu verhindern, dass die „In-Group“-Voreingenommenheit die Bewertung von Belegen in den Kontexten verzerrt, in denen dies am wichtigsten ist.

Der Irrtum der versunkenen Kosten: Der Einfluss vergangener Investitionen

Der Irrtum der versunkenen Kosten ist die Tendenz, weiterhin in eine erfolglose Vorgehensweise zu investieren, weil bereits Ressourcen dafür aufgewendet wurden, anstatt Entscheidungen ausschließlich auf der Grundlage erwarteter zukünftiger Ergebnisse zu treffen. Die rationale Entscheidungstheorie ist in diesem Punkt eindeutig: Versunkene Kosten (bereits angefallene und nicht mehr erstattungsfähige Kosten) sind für zukunftsorientierte Entscheidungen irrelevant. Was zählt, ist die erwartete zukünftige Rendite im Verhältnis zu den erwarteten zukünftigen Kosten. Doch Menschen beziehen versunkene Kosten konsequent und vorhersehbar in ihre zukunftsorientierten Entscheidungen ein – und zwar auf eine Weise, die dazu führt, dass erfolglose Projekte noch lange fortgesetzt werden, nachdem eine rationale Bewertung bereits zu ihrer Einstellung geführt hätte.

Der Mechanismus, den Richard Thaler als Teil des Rahmens der Verlustaversion in der Prospect-Theorie identifiziert hat, besteht darin, dass die Aufgabe einer Investition, die bereits hohe Kosten verursacht hat, sich wie die Realisierung eines Verlusts (eines endgültigen, konkreten Verlusts) anfühlt, während die Fortsetzung der Investition die – wenn auch schwindende – Möglichkeit bewahrt, dass sich das ursprüngliche Engagement doch noch als richtig erweisen könnte.⁷ Verlustaversion, also die Erkenntnis, dass Verluste etwa doppelt so stark empfunden werden wie gleichwertige Gewinne, macht die Aussicht, den Verlust durch Aufgabe zu realisieren, schmerzhafter als die Aussicht, weiter zu investieren. Die Folge ist die fortgesetzte Finanzierung scheiternder Projekte, die Aufrechterhaltung sich verschlechternder Beziehungen über ihren natürlichen Endpunkt hinaus sowie das Festhalten an erfolglosen Strategien durch Organisationen, die sich zu sehr gebunden haben, um noch den Kurs umzukehren.

Der Irrtum der versunkenen Kosten gehört zu den folgenreichsten im institutionellen und politischen Leben, da Institutionen versunkene Kosten in einem Ausmaß anhäufen, das einen Abbruch sehr erschwert. Der Militäreinsatz, der wegen der bereits verlorenen Menschenleben über den Punkt der strategischen Durchführbarkeit hinaus fortgesetzt wird: Ihn jetzt zu beenden würde bedeuten, dass diese Leben umsonst waren. Das Infrastrukturprojekt, das wegen des bereits ausgegebenen Geldes über den Punkt der wirtschaftlichen Rechtfertigung hinaus fortgesetzt wird: Es jetzt abzubrechen würde bedeuten, die Investition abzuschreiben. In jedem Fall werden die bisherigen Investitionen als Grund für das künftige Engagement herangezogen – und genau das ist die Irrationalität, die dieser Trugschluss beschreibt. Die bereits verlorenen Menschenleben sind nicht wiederherstellbar. Das bereits ausgegebene Geld ist nicht wiederherstellbar. Die einzig rationale Frage ist, ob die künftigen Kosten der Fortsetzung durch den künftigen Nutzen gerechtfertigt sind – und in vielen dieser Fälle sind sie es nicht.

Der Selbstüberschätzungsfehler und warum Experten oft weniger treffsicher sind, als Anfänger glauben

Übermäßiges Selbstvertrauen ist der am weitesten verbreitete und am gründlichsten dokumentierte kognitive Trugschluss in der Forschungsliteratur. In einer Studie nach der anderen, über verschiedene Fachgebiete, Bevölkerungsgruppen und Methodiken hinweg, überschätzen Menschen durchweg die Genauigkeit ihrer Überzeugungen, die Zuverlässigkeit ihrer Vorhersagen und die Wahrscheinlichkeit, dass sie richtig liegen, wenn sie unsicher sind. Wenn Menschen sagen, sie seien zu 90 Prozent von einer Tatsachenbehauptung überzeugt, liegen sie in etwa 70 Prozent der Fälle richtig. Wenn sie sagen, sie seien sich sicher, liegen sie häufig falsch.

Der Selbstüberschätzungsfehler ist nicht in allen Bereichen oder bei allen Personen gleich ausgeprägt. Philip Tetlocks Forschung zu Expertenprognostikern, die in Artikel 209 erörtert wird, identifizierte die spezifischen Bedingungen, unter denen Selbstüberschätzung am stärksten ausgeprägt ist: in Bereichen, in denen Rückmeldungen verzögert, mehrdeutig oder gar nicht vorhanden sind, in denen die Komplexität des Systems eine genaue Zuordnung von Erfolg und Misserfolg verhindert und in denen die berufliche Identität mit dem Besitz von Expertenurteil verbunden ist. Genau diese Bedingungen kennzeichnen die meisten Bereiche mit hohem Risiko (Medizin, Finanzen, Politik, Recht) und erklären, warum Experten in diesen Bereichen in der Regel weniger gut kalibriert sind als Experten in Bereichen mit unmittelbarem, klarem und eindeutigem Feedback, wie etwa Wettervorhersagen oder Sporttraining.

Der Selbstüberschätzungsfehler wird manchmal mit dem in Artikel 205 beschriebenen Dunning-Kruger-Phänomen in Verbindung gebracht, doch sollten beide Begriffe klar voneinander unterschieden werden – und zwar aus einem wichtigen Grund. Wie in Artikel 205 ausführlich untersucht wird, erweist sich die dramatische Version des Dunning-Kruger-Effekts (das symmetrische Muster, bei dem Anfänger ihre Fähigkeiten stark überschätzen und Experten sie unterschätzen, mit einem „Tal der Verzweiflung“ dazwischen) größtenteils als statistisches Artefakt, das durch Regression zum Mittelwert und durch die Art und Weise, wie das ursprüngliche Diagramm gezeichnet wurde, entsteht – und nicht durch einen eigenständigen psychologischen Mechanismus. Was der Kritik standhält, ist eine schwächere Behauptung: dass sich die Genauigkeit der Selbsteinschätzung tendenziell mit zunehmender Kompetenz verbessert, sodass Personen mit schlechteren Leistungen ihre eigene Position ungenauer einschätzen als Personen mit besseren Leistungen. Der Selbstüberschätzungsfehler hingegen ist robust und für sich genommen gut dokumentiert. Er betrifft Experten und Anfänger gleichermaßen. Anfänger sind zum Teil deshalb übermäßig selbstsicher, weil ihnen die Beurteilungsfähigkeit fehlt, ihre eigene Leistung einzuschätzen; Experten sind übermäßig selbstsicher, weil ihr Fachgebiet ihnen unzureichendes Feedback liefert, um ihr Selbstvertrauen an ihre tatsächliche Trefferquote anzupassen. Der Selbstüberschätzungsfehler hängt nicht davon ab, dass das Dunning-Kruger-Diagramm gültig ist, was ein Glück ist, da ein Großteil dieses Diagramms einer genauen Prüfung nicht standhält.

Das Wissen um die Verzerrungen und was es nicht garantiert

Es gibt eine Erkenntnis in der Literatur zu kognitiven Verzerrungen, die ebenso wichtig ist wie jeder einzelne Irrtum und die dieser Artikel direkt anerkennen muss: Das Wissen um kognitive Verzerrungen schützt nicht zuverlässig vor ihnen. Die Forschung zeigt eindeutig, dass das Bewusstsein für die Verfügbarkeitsheuristik deren Wirken nicht verhindert, dass das Wissen um den Ankereffekt das Ankern nicht beseitigt und das Verständnis der Bestätigungsverzerrung nicht zu einer verzerrungsfreien Informationssuche führt. Die Verzerrungen wirken vor allem auf der Ebene der automatischen Verarbeitung (in System 1, nach Kahnemans Terminologie), während das bewusste Erkennen vorwiegend auf der Ebene der bewussten Verarbeitung (in System 2) stattfindet. Die beiden Ebenen kommunizieren nur unvollständig miteinander, und die automatische Ebene erzeugt typischerweise die erste Reaktion, bevor die bewusste Ebene Zeit hatte, einzugreifen.

Dies ist kein Argument für Resignation. Es ist ein Argument für strukturelle statt individueller Lösungen. Individuelle Entverzerrung (der Versuch, sorgfältiger nachzudenken, sich an die relevante Heuristik zu erinnern und die angemessene Korrektur anzuwenden) ist unzuverlässig und mühsam, und ihre Auswirkungen sind im Allgemeinen gering und bereichsspezifisch. Strukturelle Entverzerrung (die Neugestaltung von Entscheidungsprozessen, Informationsumgebungen und institutionellen Regelungen, um den Einfluss von Verzerrungen auf Ergebnisse zu verringern) ist zuverlässiger und nachhaltiger, da sie mit der Architektur der Kognition arbeitet und nicht gegen sie.

Das strukturierte Interview reduziert den Halo-Effekt nicht, weil die Interviewer gelernt haben, ihre ersten Eindrücke zu überwinden, sondern weil der Prozess verhindert, dass sich erste Eindrücke bilden, bevor die Beurteilung abgeschlossen ist. Die vorab registrierte Hypothese reduziert die Bestätigungsverzerrung nicht, weil Forscher gelernt haben, nach widerlegenden Belegen zu suchen, sondern weil sie sich auf eine Vorhersage festlegen, bevor sie die Daten beobachten können. Die kontroverse Zusammenarbeit verringert die In-Group-Voreingenommenheit nicht, weil Forscher gelernt haben, Belege von außerhalb der Gruppe fair zu bewerten, sondern weil sie verpflichtet sind, Studien gemeinsam mit Personen zu entwerfen, die gegensätzliche Interessen am Ergebnis haben. In jedem Fall leistet die Struktur die Arbeit, die bewusste individuelle Anstrengung nicht zuverlässig leisten kann.

Der „Conscious Look“, angewandt auf kognitive Irrtümer, ist nicht das Bestreben, ohne Voreingenommenheit zu denken. Das ist nicht möglich. Es ist vielmehr die Pflege der Gewohnheit, bei jedem mit Überzeugung getroffenen Urteil zu fragen: Welcher kognitive Prozess hat dies hervorgebracht, und handelt es sich dabei um einen Prozess, dessen Ergebnisse in diesem spezifischen Kontext vertrauenswürdig sind? Am nützlichsten ist es, diese Frage bei den Urteilen zu stellen, die sich am sichersten anfühlen, die am schnellsten zustande kamen und die am ehesten mit dem übereinstimmen, was man bereits glaubte. Genau das sind die Urteile, die das automatische System reibungslos hervorgebracht hat – und eine reibungslose Entstehung ist das Kennzeichen einer ungestört wirkenden Voreingenommenheit.

Weiterführende Literatur

Daniel Kahnemans Thinking, Fast and Slow (2011) ist der unverzichtbare Ausgangspunkt: die gründlichste und lesenswerteste Zusammenfassung des Forschungsprogramms zu Heuristiken und Voreingenommenheiten, das Kahneman und Tversky über 40 Jahre hinweg entwickelt haben. Es behandelt alle in diesem Artikel besprochenen Denkfehler und viele weitere, mit einer durchweg ehrlichen Darstellung der Bedingungen, unter denen die Heuristiken zuverlässig sind, und der Bedingungen, unter denen sie versagen.

Richard Thalers und Cass Sunsteins Nudge: Improving Decisions About Health, Wealth, and Happiness (2008) ist die einflussreichste Abhandlung über den Ansatz der strukturellen Verzerrungsbekämpfung: Wie die Architektur von Entscheidungsumgebungen so gestaltet werden kann, dass sie mit den in diesem Artikel beschriebenen Verzerrungen zusammenwirkt, anstatt ihnen entgegenzuwirken. Es ist die praktische Ergänzung zu Kahnemans theoretischer Darstellung.

Philip Tetlock und Dan Gardners „Superforecasting: The Art and Science of Prediction“ (2015) liefert die fundierteste verfügbare Darstellung dessen, wie ein kalibriertes Urteilsvermögen tatsächlich aussieht: wie der Effekt der Selbstüberschätzung durch spezifische Praktiken reduziert werden kann und was Prognostiker, die eine echte Kalibrierung erreichen, von denen unterscheidet, die sich lediglich für gut kalibriert halten.

Philip Zimbardos The Lucifer Effect: Understanding How Good People Turn Evil (2007) untersucht die kognitiven und sozialen Mechanismen, durch die situative Faktoren (In-Group-Bias, Autorität, Konformitätsdruck) Verhaltensweisen hervorrufen, die die beteiligten Personen von sich selbst nicht erwartet hätten – mit direkter Relevanz für die in diesem Artikel behandelten Themen In-Group-Bias und Halo-Effekt.

Rolf Dobellis The Art of Thinking Clearly (2013) bietet den derzeit umfassendsten populärwissenschaftlichen Überblick über kognitive Irrtümer: 99 kognitive Verzerrungen, beschrieben in kurzen, leicht zugänglichen Kapiteln. Das Buch eignet sich am besten als Nachschlagewerk und nicht zum Durchlesen von vorn bis hinten; es sollte durch Kahnemans analytisch strengere Darstellung der zugrunde liegenden Mechanismen ergänzt werden.

Anmerkungen

¹ Wason, P. C. (1960). On the failure to eliminate hypotheses in a conceptual task. Quarterly Journal of Experimental Psychology, 12(3), 129–140. Die Vier-Karten-Auswahlaufgabe wurde tausende Male repliziert und gilt als einer der robustesten Befunde in der Psychologie des logischen Denkens. Die Erkenntnis, dass die meisten Menschen die bestätigenden Karten (E und 4) anstelle der widerlegenden Karten (E und 7) wählen, wurde über verschiedene Bevölkerungsgruppen, Bildungsniveaus und kulturelle Kontexte hinweg repliziert. Eine bemerkenswerte Ausnahme besteht darin, dass sich die Leistung erheblich verbessert, wenn die Aufgabe im Rahmen sozialer Verträge formuliert wird (das Aufdecken von Betrug statt das Testen abstrakter Regeln), was darauf hindeutet, dass die Bestätigungsverzerrung im abstrakten Denken möglicherweise teilweise ein domänenspezifischer Effekt und keine universelle kognitive Einschränkung ist.

² Tversky, A., und Kahneman, D. (1973). Verfügbarkeit: Eine Heuristik zur Beurteilung von Häufigkeit und Wahrscheinlichkeit. Cognitive Psychology, 5(2), 207–232. Der ursprüngliche Nachweis der Verfügbarkeitsheuristik ergab, dass die eingeschätzte Häufigkeit über ein breites Spektrum von Kategorien hinweg eher mit der Leichtigkeit des Abrufens als mit der tatsächlichen Häufigkeit korreliert. Die Erweiterung auf die durch die Medien verzerrte Risikowahrnehmung wird in Slovic, P. (1987) entwickelt. Risikowahrnehmung. Science, 236(4799), 280–285, in der gezeigt wurde, dass das wahrgenommene Risiko verschiedener Todesursachen stark mit der Medienberichterstattung korreliert und im Wesentlichen überhaupt nicht mit den tatsächlichen Sterblichkeitsraten.

³ Tversky, A., und Kahneman, D. (1974). Urteilsbildung unter Unsicherheit: Heuristiken und Verzerrungen. Science, 185(4157), 1124–1131. Die „Roulette-Rad“-Anker-Demonstration ist die eindrucksvollste unter vielen Anker-Studien, da sie belegt, dass Anker Schätzungen beeinflussen, auch wenn ihre Irrelevanz offensichtlich ist und anerkannt wird. Die allgemeinere Erkenntnis (dass Anker Schätzungen beeinflussen, auch wenn sie eindeutig willkürlich sind und selbst wenn die Teilnehmer ausdrücklich angewiesen werden, sie zu ignorieren) wurde in vielen Bereichen und mit unterschiedlichen Methoden repliziert.

⁴ Tversky, A., und Kahneman, D. (1983). Extensionales versus intuitives Denken: Der Konjunktion-Irrtum bei der Wahrscheinlichkeitsbeurteilung. Psychological Review, 90(4), 293–315. Das Linda-Problem ist die bekannteste Demonstration des Konjunktion-Irrtums, obwohl Tversky und Kahneman sorgfältig darauf achteten, durch Repräsentativität bedingte Konjunktion-Fehler von anderen Ursachen desselben Fehlers zu unterscheiden. Die Erkenntnis wurde von späteren Forschern teilweise angefochten, die argumentierten, dass Teilnehmer „Wahrscheinlichkeit“ möglicherweise auf andere Art interpretieren als Logiker; doch die grundlegende Erkenntnis (dass anschauliche, repräsentative Beschreibungen das probabilistische Denken bei der intuitiven Beurteilung außer Kraft setzen) hat sich über ein breites Spektrum experimenteller Designs hinweg als robust erwiesen.

⁵ Thorndike, E. L. (1920). Ein ständiger Fehler bei psychologischen Bewertungen. Journal of Applied Psychology, 4(1), 25–29. Thorndikes ursprünglicher Nachweis im militärischen Kontext wurde in pädagogischen, klinischen und kommerziellen Umgebungen repliziert. Das WYSIATI-Prinzip (What You See Is All There Is) ist Kahnemans Formulierung des Mechanismus, der dem Halo-Effekt zugrunde liegt: Das kognitive System konstruiert aus den verfügbaren Informationen eine schlüssige Geschichte, ohne das Fehlen relevanter Informationen zu registrieren, die diese Geschichte verkomplizieren würden.

⁶ Tajfel, H., Billig, M. G., Bundy, R. P. und Flament, C. (1971). Soziale Kategorisierung und intergruppales Verhalten. European Journal of Social Psychology, 1(2), 149–178. Das Minimalgruppen-Paradigma hat eines der umfangreichsten Forschungsprogramme in der Sozialpsychologie hervorgebracht und zeigt durchweg, dass die Bevorzugung der eigenen Gruppe lediglich die Wahrnehmung der Gruppenzugehörigkeit erfordert, nicht aber gemeinsame Interessen, eine gemeinsame Geschichte oder eine andere substanzielle Grundlage für die Gruppenidentität. Der von Tajfel und Turner entwickelte theoretische Rahmen (Soziale-Identitäts-Theorie) geht davon aus, dass Gruppenzugehörigkeit intrinsisch motivierend ist, da sie zu dem positiven Selbstbild beiträgt, das Individuen aufrechtzuerhalten suchen.

⁷ Thaler, R. H. (1980). Auf dem Weg zu einer positiven Theorie der Konsumentenentscheidung. Journal of Economic Behavior and Organization, 1(1), 39–60. Der Sunk-Cost-Effekt wird im Rahmen der 1979 von Kahneman und Tversky entwickelten Prospect-Theorie analysiert, die zeigt, dass Ergebnisse relativ zu einem Bezugspunkt bewertet und Verluste gegenüber diesem Bezugspunkt etwa doppelt so stark gewichtet werden wie gleichwertige Gewinne. Der Sunk-Cost-Irrtum entsteht, weil der Bezugspunkt die vorherige Investition einschließt, wodurch ein Abbruch im Verhältnis zu diesem Bezugspunkt als Verlust empfunden wird und nicht als neutrale Entscheidung über den zukünftig erwarteten Wert.