Wieso halluzinieren Sprachmodelle?

Posted on by

Wer regelmässig mit Large Language Models (LLMs) arbeitet, kennt die Situation: Man fragt nach einer konkreten Zahl, einem Urteil, einer Studie, und das Modell liefert eine Antwort mit beeindruckender Präzision, inklusive Jahreszahl und scheinbarer Quelle. Die Antwort liest sich souverän. Nur stimmt sie nicht. Dieses Verhalten heisst Halluzination, und es ist kein Bug, den man einfach wegpatchen könnte. Es folgt direkt aus der Art, wie diese Modelle funktionieren. Dieser Artikel erklärt den Mechanismus dahinter, mit etwas Statistik, aber ohne Formeln.

Der Mechanismus: Vorhersage statt Verständnis

Ein LLM erzeugt Text, indem es Schritt für Schritt vorhersagt, wie der bisherige Text am wahrscheinlichsten weitergeht. Die Grundeinheit ist dabei nicht das Wort, sondern das Token, ein Textbaustein von meist wenigen Zeichen Länge.

Technisch passiert bei jedem Schritt dasselbe: Das Modell berechnet für jedes Token seines Vokabulars (typischerweise mehrere zehntausend bis über hunderttausend Einträge) eine Wahrscheinlichkeit, mit der dieses Token als nächstes folgt. Das Ergebnis ist eine Wahrscheinlichkeitsverteilung über das gesamte Vokabular. Aus dieser Verteilung wird dann ein Token gezogen, meist nicht stur das wahrscheinlichste, sondern per Zufallsauswahl gewichtet nach Wahrscheinlichkeit. Ein Parameter namens Temperatur steuert, wie stark diese Auswahl streut: niedrige Temperatur bedeutet konservative, vorhersehbare Fortsetzungen, hohe Temperatur mehr Varianz. Danach beginnt der Vorgang von vorn, mit dem neuen Token als Teil des Kontexts.

Ein Bild dafür: Stellen Sie sich eine Kollegin vor, die eine gewaltige Menge an Texten gelesen hat, aber keinen Zugriff auf irgendein Archiv besitzt. Legen Sie ihr den Satzanfang «Die Studie der Universität X aus dem Jahr 2021 zeigte, dass…» vor, und sie wird ihn flüssig vervollständigen. Sie weiss, wie solche Sätze weitergehen, welche Grössenordnungen plausibel sind, welcher Tonfall passt. Was sie nicht kann: nachschlagen, ob die konkrete Aussage stimmt. Sie füllt die Lücke mit dem, was nach allem Gelesenen am besten passt.

Genau das tut ein LLM, bei jedem einzelnen Token. Es gibt im Modell keinen separaten Schritt, in dem geprüft wird, ob eine Aussage wahr ist. Die Vorhersage der plausibelsten Fortsetzung ist der gesamte Vorgang.

Warum daraus zwangsläufig Halluzinationen entstehen

Plausibilität und Korrektheit fallen oft zusammen, aber eben nur oft. Bei häufig wiederholten Fakten («Die Hauptstadt von Frankreich ist Paris») ist das statistisch wahrscheinlichste Token zugleich das korrekte, weil die Trainingsdaten diesen Zusammenhang tausendfach enthalten. Die Wahrscheinlichkeitsmasse konzentriert sich dann stark auf eine einzige Fortsetzung.

Bei seltenen, spezifischen oder aktuellen Informationen bricht diese Kopplung auseinander. Wenn eine Frage in den Trainingsdaten kaum oder widersprüchlich vorkommt, verteilt sich die Wahrscheinlichkeit auf viele Fortsetzungen, von denen keine besonders gut abgesichert ist. Das Modell zieht trotzdem eine, weil es strukturell nichts anderes kann als weiterzuschreiben. Und diese Antwort sieht formal exakt so aus wie eine korrekte: gleiche Satzstruktur, gleicher Tonfall, gleiche Präzision.

Das erklärt auch, warum Halluzinationen so schwer zu erkennen sind. Ein Mensch, der etwas nicht weiss, wird meist vage. Ein LLM wird nicht vage, weil vage Formulierungen an solchen Stellen in den Trainingsdaten gar nicht typisch sind. Fachtexte enthalten präzise Zahlen, also erzeugt das Modell präzise Zahlen. Die Unsicherheit steckt zwar in der Verteilung (sie ist dort messbar flacher), aber im ausgegebenen Text ist davon nichts mehr zu sehen.

Weitere Ursachen: Es ist mehr als nur Statistik

Drei strukturelle Faktoren verschärfen das Problem.

Kein Zugriff auf eine Ground Truth. Ein LLM hat kein internes Faktenregister, gegen das es seine Ausgaben abgleichen könnte. Das Wissen steckt verteilt in Milliarden von Modellparametern, als statistisches Muster, nicht als Datenbankeintrag. Es gibt keinen Ort im Modell, an dem ein Fakt als abrufbarer Eintrag steht, den man nachschlagen oder korrigieren könnte. Deshalb helfen Ansätze wie Retrieval Augmented Generation (RAG), bei denen das Modell zur Laufzeit auf externe, verifizierte Dokumente zugreift: Sie liefern die fehlende Referenz von aussen nach. Vollständig lösen sie das Problem nicht, weil das Modell die abgerufenen Inhalte immer noch falsch zusammenfassen oder ergänzen kann.

Optimierung auf hilfreich wirkende Antworten. Nach dem Grundtraining werden Modelle typischerweise mit menschlichem Feedback nachtrainiert. Menschen bewerten Antworten, und das Modell lernt, Antworten zu erzeugen, die gut bewertet werden. Das Problem: Bewertende können nicht jede Fachaussage prüfen. Eine flüssige, vollständige, selbstbewusste Antwort wird tendenziell besser bewertet als ein ehrliches «Das weiss ich nicht». Das Training belohnt damit genau die Eigenschaft, die im Einsatz am gefährlichsten ist: überzeugendes Auftreten unabhängig von der Substanz.

Lücken und Widersprüche in den Trainingsdaten. Trainingsdaten sind ein Abbild des Internets und grosser Textkorpora, mit allem, was dazugehört: veraltete Angaben, sich widersprechende Artikel, Fehler in den Quellen selbst. Wo die Daten uneinheitlich sind, mittelt das Modell gewissermassen über widersprüchliche Muster. Wo Daten fehlen, extrapoliert es aus Ähnlichem. Beides erzeugt Ausgaben, die keinem realen Sachverhalt entsprechen.

Nicht jede Halluzination ist gleich

Für den praktischen Umgang lohnt sich eine Unterscheidung, denn die Fehlertypen erfordern unterschiedliche Kontrollen.

Erfundene Fakten sind der bekannteste Fall: eine Kennzahl, ein Datum, ein Name, der schlicht nicht stimmt. Der Fehler liegt in der Aussage selbst.

Erfundene Quellen sind eine eigene Kategorie, weil sie Vertrauen simulieren. Das Modell hat gelernt, wie Zitationen aussehen: Autorennamen, Jahreszahl, Journalname, DOI-Format. Es kann diese Struktur perfekt reproduzieren, ohne dass die referenzierte Publikation existiert. Eine formal korrekte Fussnote zu einer Studie, die es nie gab, ist gefährlicher als eine offensichtlich fehlende Quelle, weil sie den Prüfreflex ausschaltet.

Falsche Schlussfolgerungen entstehen, wenn die Ausgangsdaten korrekt sind, die Verknüpfung aber nicht. Das Modell rechnet etwa einen Wert falsch hoch oder leitet aus zwei korrekten Aussagen eine dritte ab, die so nicht gilt. Dieser Typ ist im Review am schwersten zu fangen, weil die einzelnen Bausteine der Antwort stimmen.

Daneben gibt es den Fall der falschen Selbsteinschätzung: Das Modell behauptet, etwas geprüft oder eine Berechnung durchgeführt zu haben, obwohl der zugrunde liegende Vorgang so nicht stattgefunden hat. Die Aussageform suggeriert dann eine Prüfung, die nie erfolgt ist.

Fazit

Halluzinationen sind keine Kinderkrankheit, die mit der nächsten Modellgeneration verschwindet, sondern eine direkte Folge des Grundprinzips: Ein System, das Text durch Wahrscheinlichkeitsvorhersage erzeugt, hat keinen eingebauten Wahrheitsbegriff. Ob zukünftige Architekturen das Problem strukturell lösen, ist offen.

Für die Praxis folgt daraus eine nüchterne Arbeitsteilung. LLMs sind stark, wo Plausibilität genügt oder wo eine Prüfung nachgelagert ist: Entwürfe, Zusammenfassungen von bereitgestellten Dokumenten, Strukturierungsarbeit. Sie sind ungeeignet als alleinige Quelle für Zahlen, Rechtsauslegungen oder Zitate. Jede Zahl und jede Referenz aus einem LLM ist bis zum Beweis des Gegenteils eine Hypothese, keine Auskunft. Wer seine Prozesse so aufsetzt, dass diese Prüfung fest eingebaut ist, kann den Nutzen der Technologie mitnehmen, ohne ihr strukturelles Defizit zu erben.

Rathes Sriram
Latest posts by Rathes Sriram (see all)
AI, Alle, Branchennews, Daten, Digitalisierung, Prozesse, Technologien, Uncategorized , , , ,