Was ist eine Autoritäts-Halluzination genau?

Eine Autoritäts-Halluzination liegt vor, wenn eine KI nicht nur einen falschen Fakt erfindet, sondern zusätzlich glaubwürdig wirkende Details wie Titel, Institutionen oder Lebensdaten dazu erfindet. Das Ziel dieser zusätzlichen Details ist nicht Täuschung im menschlichen Sinn, sondern statistische Plausibilität, die aber genau wie Täuschung wirkt.

Warum halluziniert KI überhaupt?

KI-Sprachmodelle berechnen das wahrscheinlichste nächste Wort, sie rufen kein gespeichertes Faktenwissen ab. Fehlt eine konkrete Information, füllt das Modell die Lücke mit einer statistisch plausiblen Erfindung, weil es keinen eingebauten Mechanismus hat, der „ich weiß es nicht" zuverlässig erkennt und bevorzugt.

Kann man KI-Halluzinationen komplett vermeiden?

Nein, nicht vollständig. Halluzinationen sind kein Softwarefehler, der sich beheben lässt, sondern eine Folge davon, wie Sprachmodelle grundsätzlich funktionieren. Verifikations-Gewohnheiten senken das Risiko erheblich, sie eliminieren es aber nicht.

Ist Google KI oder ChatGPT vertrauenswürdiger?

Beide Systeme können Autoritäts-Halluzinationen produzieren, der Bächi-Fall stammte von Google KI. Kein aktuelles Modell ist vor diesem Fehlertyp gefeit. Die Schutzmaßnahme ist immer dieselbe: konkrete Detailangaben separat verifizieren, unabhängig vom genutzten Tool.

Wie erkenne ich eine KI-Halluzination, wenn ich das Thema selbst nicht gut kenne?

Genau dann ist die Gefahr am größten, weil dir der Referenzrahmen fehlt, um die Antwort einzuschätzen. Ein einfacher Schutz: konkrete Details wie Namen, Titel oder Jahreszahlen gezielt in einer zweiten, unabhängigen Quelle nachschlagen, bevor du sie weiterverwendest.

KI-Halluzination erkennen: Warum KI lügt

Ich weiß bis heute genau, welcher Satz mein Vertrauen kippte.

Ich hatte Google KI nach Beat Bächi gefragt, einem Schweizer Medizinhistoriker. Die Antwort kam sofort, druckreif formuliert, mit einem Detail das mich stutzig machte: Bächi sei 2019 gestorben, hieß es, und habe ein Buch mit einem bestimmten Titel geschrieben.

Beides stimmte nicht. Bächi lebt. Das Buch gibt es nicht. Die KI hatte beides frei erfunden, inklusive eines Todesjahres, das der Antwort mehr Gewicht geben sollte.

Er war komplett erfunden.

Nicht die Information war das eigentliche Problem. Falsche Fakten kennt jeder der schon mal mit KI gearbeitet hat. Das eigentliche Problem war, wie überzeugend die Lüge verpackt war: mit einem Sterbedatum, das niemand grundlos hinterfragt, weil Sterbedaten wie verifizierte Fakten wirken.

Die meisten Warnungen vor KI drehen sich um abstrakte, ferne Gefahren. Superintelligenz, Jobverlust in zehn Jahren, Kontrollverlust irgendwann. Der Bächi-Fall zeigt eine Gefahr, die längst da ist und die viel unauffälliger wirkt: KI die sich selbst Autorität erfindet, um glaubwürdiger zu klingen.

💡Das Wichtigste in Kürze

KI erfindet nicht nur falsche Fakten, sondern auch die Autorität dahinter: Titel, Institutionen, Lebensdaten.
Diese Autoritäts-Halluzination ist gefährlicher als offensichtlicher Unsinn, weil sie wie ein verifizierter Fakt wirkt.
Der Fehler kann sich fortpflanzen, wenn eine KI die erfundenen Details einer anderen KI ungeprüft übernimmt.
Konkrete Prüfschritte senken das Risiko erheblich, auch wenn sie Halluzinationen nicht vollständig verhindern.

Was macht diese Art von KI-Fehler gefährlicher als die üblichen Warnungen?

Halluzinationen sind das meistgenannte KI-Risiko in einer der größten Nutzerbefragungen der letzten Zeit. In der Anthropic-Studie mit 81.000 befragten Nutzern nannten 26,7 Prozent Unzuverlässigkeit und Halluzinationen als ihre größte Sorge, noch vor Datenschutz und Jobverlust.

Das ist bemerkenswert, weil Halluzinationen kein neues Problem sind. Was neu ist: Nutzer merken zunehmend, dass die gefährlichsten Halluzinationen nicht die offensichtlich falschen sind. Ein Datum, das offensichtlich unmöglich ist, fällt sofort auf. Ein Todesjahr, ein Buchtitel, eine Institution, die alle plausibel klingen, fallen nicht auf. Genau diese unauffälligen Erfindungen sind es, die im Alltag unbemerkt weiterverwendet werden.

Wie erfindet sich eine KI ihre eigene Autorität?

Im Bächi-Fall lief der Mechanismus so ab: Die KI kannte den Namen, aber nicht genug gesicherte Fakten dazu. Statt eine Lücke zuzugeben, füllte sie die Lücke mit Details, die zu einem Historiker passen würden: ein Werk, ein Sterbedatum. Diese Details waren nicht zufällig gewählt; sie folgten dem Muster, wie glaubwürdige biografische Angaben normalerweise aussehen.

Die KI erfand nicht nur das Buch. Sie erfand auch sein Todesjahr, damit ihre Antwort glaubwürdiger klingt.

Ein Sterbedatum wirkt wie ein verifizierter Fakt, weil biografische Daten in der Regel gut dokumentiert sind. Genau dieser Anschein von Sorgfalt macht die Erfindung so wirksam. Niemand hinterfragt ein Todesjahr in derselben Weise wie eine steile These.

Warum erfindet KI ausgerechnet Sterbedaten und Buchtitel?

KI-Sprachmodelle sagen das statistisch wahrscheinlichste nächste Wort voraus. Sie rufen kein gespeichertes Faktenwissen aus einer Datenbank ab, wie eine Suchmaschine es tut. Wenn die Trainingsdaten zu einer Person lückenhaft sind, „weiß" das Modell nicht, dass es eine Lücke gibt. Es setzt einfach das nächstplausibelste Wort fort, Satz für Satz, bis eine vollständig klingende Antwort entstanden ist.

Dazu kommt: Modelle werden während des Trainings häufig darauf optimiert, in Benchmarks lieber eine Antwort zu geben als „ich weiß es nicht" zu sagen. Eine falsche, aber vollständige Antwort schneidet in vielen Bewertungssystemen besser ab als ein ehrliches Eingeständnis von Unwissen. Das begünstigt genau das Verhalten, das im Bächi-Fall sichtbar wurde.

Was passiert, wenn eine KI eine andere KI belügt?

Der Fall Beat Bächi, dem Schweizer Medizinhistoriker mit dem erfundenen Todesjahr, zeigt ein zweites Risiko, das über den einzelnen Irrtum hinausgeht: Erfundene Fakten verbreiten sich weiter, wenn sie einmal im Umlauf sind. Wird eine KI-Antwort in einem Artikel, einer Zusammenfassung oder einem weiteren KI-Prompt ungeprüft weiterverwendet, übernimmt das nächste System die Erfindung als Ausgangspunkt. Ein falsches Sterbedatum kann so von einer Antwort in die nächste wandern, ohne dass irgendwo ein Fehler auffällt.

Das ist eng verwandt mit einem Muster, das ich an anderer StelleKontext-Armut nenne: KI-Systeme starten jede Session ohne Gedächtnis an vorherige Korrekturen. Ein Fehler der einmal richtiggestellt wurde, kann in der nächsten Session trotzdem wieder auftauchen, weil das System sich nicht erinnert, dass er schon einmal korrigiert wurde.

Und wenn du das Gefühl kennst, dass KI dich schneller macht, aber nicht gründlicher: das hat einen eigenen Namen. Es heißt Cognitive Debt. Wer KI-Antworten routinemäßig ungeprüft übernimmt, baut genau diese Schuld auf, bis ein Fehler wie der Bächi-Fall sie sichtbar macht.

Wie schützt du dich vor unsichtbaren KI-Halluzinationen?

Ein paar Gewohnheiten senken das Risiko erheblich, auch wenn sie es nicht auf null bringen:

Auf Selbstsicherheit misstrauen: Je glatter und selbstbewusster eine Antwort mit konkreten Details formuliert ist, desto mehr lohnt sich ein zweiter Blick. Sicherheit im Ton ist kein Beleg für Richtigkeit.
Quellen aktiv einfordern: Bei biografischen oder faktischen Angaben gezielt nach der Quelle fragen. Kann die KI keine nennen oder wirkt die Quelle vage, ist das ein Warnsignal.
Fakten dort prüfen, wo sie hingehören: Sterbedaten in offiziellen Verzeichnissen, Buchtitel in Bibliothekskatalogen, Institutionen auf deren eigenen Seiten. Nicht in einer zweiten KI-Antwort.
Zweite KI oder zweite Suche gegenchecken: Eine unabhängige Suche oder ein zweites Modell deckt Widersprüche auf, die im ersten Ergebnis unsichtbar bleiben.

Keiner dieser Schritte ist aufwendig. Der eigentliche Aufwand liegt darin, sie zur Gewohnheit zu machen, bevor ein erfundenes Todesjahr unbemerkt in einem Text landet, den du weitergibst.

Ich prüfe seit diesem Vorfall jede Quellenangabe, die eine KI mir liefert, bevor ich sie irgendwo verwende. Der Bächi-Fall hat mir gezeigt, wie leicht ein plausibel klingendes Detail durchrutscht, wenn man nicht aktiv danach sucht.

Blindes Vertrauen in KI-Antworten ist einer von sieben Fehlern, die KI-Nutzer systematisch bremsen. Was die anderen sechs sind, und wie du KI stattdessen so nutzt, dass sie dich wirklich weiterbringt, erfährst du in meiner kostenlosen 7-Fehler-Serie.

→ Zur 7-Fehler-Serie: Jetzt eintragen

Mehr zu KI-Kompetenz aufbauen: Warum fleißige KI-Nutzer als erste ersetzt werden

Die KI hat sich ein Todesjahr ausgedacht, um glaubwürdiger zu lügen