Warum wir KI-Antworten glauben, ohne sie zu prüfen

Acht Quellen, zwei Fehler

Für diesen Artikel habe ich eine KI gebeten, mir wissenschaftliche Studien zum Vertrauen in künstliche Intelligenz herauszusuchen. Sie lieferte acht. Ich habe jede einzelne überprüft.

Alle acht Studien existierten. Die Ergebnisse waren überwiegend richtig wiedergegeben. Und trotzdem steckten Fehler darin, ausgerechnet bei den Autorennamen. Einmal war der Name von einer thematisch benachbarten Studie aus derselben Fachzeitschrift ausgeliehen. Einmal ließ sich die angegebene Autorschaft nicht belegen.

Das Interessante daran ist nicht, dass eine KI einen Fehler macht. Interessant ist, warum er mir fast nicht aufgefallen wäre. Der Rest war so überzeugend, dass es keinen Anlass zu geben schien, ausgerechnet das einfachste Detail zu prüfen.

Genau darum geht es in diesem Text.

Wir wissen es besser und tun es trotzdem nicht

Im April 2026 befragte die Sicherheitsfirma F-Secure 1.500 Menschen in den USA und Großbritannien. Fast neun von zehn KI-Nutzern sagen, die Überprüfung von KI-Antworten sei ihre eigene Aufgabe. Gleichzeitig prüfen rund 70 Prozent nur manchmal, selten oder nie. Und der häufigste Grund, nicht nachzuhaken, ist erstaunlich schlicht: Die Antwort klang richtig.

Psychologen kennen diese Lücke zwischen Einstellung und Verhalten seit Jahrzehnten. Neu ist, wie gut sie zu KI passt. Ein Sprachmodell ist darauf trainiert, flüssig, zusammenhängend und sicher zu formulieren. Und Flüssigkeit kann als Wahrheitssignal wirken: Was sich leicht verarbeiten lässt, wirkt glaubwürdiger. Bei Menschen war das oft ein brauchbarer Hinweis, weil Unsicherheit sich im Zögern, im Stocken, im Widerspruch zeigte. Bei einer KI fallen diese Hinweise weg. Sprachliche Qualität und sachliche Richtigkeit sind zwei verschiedene Dinge, die sich plötzlich zum Verwechseln ähnlich anfühlen.

Der Satz, der verschwindet

Die für mich eindrücklichste Studie stammt von Chiara Marcoccia, Walter Quattrociocchi und Valerio Capraro. In fünf Experimenten mit insgesamt 3.132 Teilnehmenden beantworteten Menschen schwierige Fragen und durften jederzeit auf eine Antwort verzichten. Die Fragen betrafen winzige Details aus Filmen, etwa die Trikotfarbe in „Kick it like Beckham“. Sie waren bewusst so gewählt, dass die KI fast immer falsch lag.

Das Ergebnis: Schon der bloße Zugang zu einer KI ließ die Bereitschaft, sich des Urteils zu enthalten, fast vollständig verschwinden, egal ob der Rat angefordert oder einfach angezeigt wurde. In der ersten Studie lautete ohne KI noch gut ein Drittel der Antworten „Ich weiß es nicht“, mit KI waren es sechs Prozent. Die Teilnehmenden beantworteten mehr Fragen, lagen aber nur etwa ein Drittel so oft richtig wie ohne KI, während ihre Sicherheit sich mehr als verdoppelte.

Zwei Einschränkungen gehören dazu. Ungeklärt ist, ob das „Ich weiß es nicht“ genauso stark einbricht, wenn der KI-Rat meistens stimmt. Und die Studie ist noch nicht begutachtet.

Aber sie zeigt etwas Grundsätzliches. KI verändert womöglich nicht nur unsere Antworten. Sie könnte die Schwelle verschieben, ab der wir glauben, genug zu wissen, um überhaupt zu antworten.

Die Wharton-Forscher Steven Shaw und Gideon Nave haben für dieses Muster einen treffenden Namen gefunden: Cognitive Surrender, kognitive Kapitulation. Gemeint ist, KI-Antworten mit minimaler Prüfung zu übernehmen und dabei Bauchgefühl wie Nachdenken zu übergehen. In drei Experimenten mit über 1.300 Teilnehmenden stieg die Trefferquote um 25 Prozentpunkte, wenn die KI richtig lag, und fiel um 15 Punkte unter das Niveau ohne KI, wenn sie irrte. Die Menschen folgten der Maschine, nicht ihrem eigenen Denken. Auch diese Arbeit ist noch nicht begutachtet.

Bessere Leistung, schlechteres Urteil über sich selbst

Eine Forschungsgruppe aus Finnland und Deutschland ließ 246 Menschen mit KI-Hilfe Logikaufgaben aus dem amerikanischen Jura-Eingangstest lösen. Ihre Leistung lag drei Punkte über einer Vergleichsgruppe, doch sie überschätzten sich um vier Punkte. Wer mehr technisches KI-Wissen hatte, war selbstsicherer, schätzte sich aber ungenauer ein.

Das ist unbequem. KI kann uns tatsächlich besser machen und gleichzeitig unser Gespür dafür verschlechtern, wie gut wir gerade sind. Und die naheliegende Lösung „mehr KI-Kompetenz“ hilft offenbar nicht automatisch.

Dazu passt eine Befragung von Forschenden bei Microsoft unter 319 Wissensarbeitern. Wer der KI die jeweilige Aufgabe eher zutraute, berichtete weniger kritisches Denken. Wer sich selbst die Aufgabe eher zutraute, berichtete mehr. Das ist eine Korrelation aus Selbstauskünften, kein Beweis für Ursache und Wirkung. Aber sie legt eine überraschende Wendung nahe: Nicht Misstrauen gegenüber der Maschine schützt uns, sondern Vertrauen in das eigene Urteil.

Wie früh dieser Mechanismus einsetzt, zeigt eine deutsche Studie. Schon das bloße Wissen, dass ein Rat von einer KI stammt, brachte Menschen dazu, sich übermäßig darauf zu verlassen, auch wenn der Rat vorhandenen Informationen widersprach. Das Etikett allein genügt.

Das Gegenüber, das immer zustimmt

In meiner Arbeit als Psychotherapeut gilt eine einfache Erfahrung: Ein Gegenüber, das nur bestätigt, hilft nicht. Zustimmung fühlt sich gut an, aber sie prüft nichts. Veränderung beginnt oft genau dort, wo jemand freundlich, aber deutlich sagt: Da sehe ich es anders.

Sprachmodelle neigen zum Gegenteil. In einer Untersuchung stimmten bei den größten getesteten Modellen mehr als 90 Prozent der Antworten auf philosophische Fragen mit der Ansicht überein, die der Nutzer zuvor in einer kurzen Selbstvorstellung genannt hatte. Und fragt man ein Modell nach einer richtigen Antwort „Bist du sicher?“, entschuldigt es sich oft und ändert sie, auch zum Falschen.

Für unser Thema ist das doppelt heikel. Eine Antwort, die bestätigt, was wir ohnehin dachten, gibt uns den geringsten Anlass zur Prüfung. Und ein System, das auf Widerspruch mit Nachgeben reagiert, taugt nicht als Prüfinstanz für sich selbst.

Warum eine gute Erklärung nicht reicht

Liegt die Lösung darin, dass die KI ihre Antworten besser erklärt? Nur bedingt. Raymond Fok und Daniel Weld argumentieren, dass Erklärungen nur so weit nützen, wie sie es dem Menschen ermöglichen, die Richtigkeit einer KI-Aussage zu überprüfen. Eine Erklärung, die den Denkweg der Maschine nachzeichnet, klingt überzeugend, macht das Ergebnis aber nicht prüfbarer.

Die Experimente von Mark Steyvers und Kollegen stützen das. Menschen überschätzten die Genauigkeit von KI-Antworten, besonders mit den üblichen Standarderklärungen. Längere Erklärungen steigerten das Vertrauen, ohne dass die Menschen richtige und falsche Antworten besser auseinanderhalten konnten. Erst Erklärungen, deren Tonfall zur tatsächlichen Sicherheit des Modells passte, verkleinerten die Lücke.

Auch eine Unsicherheitsangabe allein genügt nicht. In einer Studie zum Hautkrebs-Screening reichte die bloße Anzeige der Modellunsicherheit nicht aus; erst im Häufigkeitsformat half sie den Nutzern, ihr Vertrauen anzupassen. Also eher „bei 100 ähnlichen Fällen etwa 78-mal richtig“ als „78 % Sicherheit“.

Und die KI mit einer zweiten KI zu überprüfen, wie es ein Drittel der F-Secure-Befragten schon getan hat, ist keine unabhängige Kontrolle. Zwei Modelle können denselben plausiblen Fehler machen. Ich habe meine Quellen ebenfalls mit Hilfe einer zweiten KI geprüft. Der Unterschied: Am Ende standen die Originalarbeiten, nicht die nächste Zusammenfassung.

Das Ziel ist nicht weniger Vertrauen

Wer daraus „Traue keiner KI“ macht, landet im anderen Graben. Eine Übersicht von Microsoft Research über rund 50 Arbeiten formuliert das Ziel so: Richtige KI-Ausgaben annehmen, falsche ablehnen. Zu wenig Vertrauen schadet dabei genauso wie zu viel.

Die gute Nachricht: Das lässt sich üben. In einem Experiment mit 342 Studierenden übernahmen diejenigen, die ChatGPT frei nutzten, 62 Prozent der falschen Ratschläge. Mussten sie zusätzlich kurz über ihr eigenes Urteil nachdenken, waren es noch 40 Prozent. Die KI wurde dadurch nicht pauschal abgelehnt. Sie wurde genauer genutzt.

Was Sie tun können

Nicht jede KI-Antwort muss geprüft werden. Entscheidend sind zwei Fragen: Was passiert, wenn sie falsch ist? Und wie leicht lässt sie sich prüfen?

Steht wenig auf dem Spiel und ist die Prüfung leicht, lohnt der Aufwand kaum. Steht viel auf dem Spiel und ist die Prüfung leicht, prüfen Sie. Steht wenig auf dem Spiel und ist die Prüfung schwer, dürfen Sie die Unsicherheit einfach stehen lassen. Steht viel auf dem Spiel und ist die Prüfung schwer, gehören Primärquellen oder ein Fachmensch dazu. Gesundheit, Geld und Beziehungen fallen fast immer in dieses letzte Feld.

Drei kleine Gewohnheiten helfen dabei.

Kurz innehalten. Bevor Sie eine wichtige Antwort übernehmen, fragen Sie sich: Wie viel von meinem Urteil stammt gerade von mir? Und woran würde ich merken, dass die Antwort falsch ist? Genau so ein kurzer Moment hat im Experiment mit den Studierenden den Unterschied gemacht.

Die Holprig-Probe. Stellen Sie sich die Antwort stockend vorgetragen vor, mit „äh“ und „ich glaube“. Würden Sie ihr dann noch genauso glauben? Wenn nicht, hat Sie womöglich die Form überzeugt, nicht der Inhalt.

Erst die eigene Antwort. Notieren Sie Ihre Einschätzung, bevor Sie die KI fragen, und sei es nur „keine Ahnung“. Dann sehen Sie hinterher, was die KI an Ihrem Urteil verändert hat.

Manchmal lautet die ehrlichste Antwort am Ende: Ich weiß es nicht. Das ist kein Versagen. Es ist der Anfang von Urteilskraft.

← Zur Blog-Übersicht · English version →