Das Wort *Halluzination* klingt nach einem Glitch – etwas, das passiert, wenn das Modell eine Fehlfunktion hat. Es ist eher das Gegenteil. Ein Chat-Modell erzeugt das wahrscheinlichste nächste Wort, dann das nächste, dann das nächste. Meistens sind die wahrscheinlichsten Wörter auch die wahren, weil das Modell aus Texten gelernt hat, die größtenteils wahr waren. Aber wenn es etwas nicht weiß, hört es nicht auf. Es erzeugt weiterhin wahrscheinliche Wörter. Das Ergebnis liest sich genau wie eine Antwort, denn genau dafür wurde es gebaut.
Drei Dinge, die dies erklärt.
- Warum die falsche Antwort richtig klingt. Sie besteht aus der gleichen Art von Sätzen wie eine richtige Antwort. Es gibt keinen Hinweis im Text, denn der Text war nie das, was wusste.
- Warum es bei seltenen, aktuellen oder spezifischen Dingen am schlimmsten ist. Eine berühmte Tatsache wurde millionenfach aufgeschrieben, und die wahrscheinlichen Wörter sind die wahren. Ein obskures Buch, eine letzten Monat geänderte Regel, der genaue Preis eines Tarifs heute – das Modell hat wenig oder nichts gesehen, und wahrscheinliche Wörter füllen die Lücke.
- Warum die Frage „Bist du sicher?“ nicht hilft. Du bekommst wahrscheinlichere Wörter. Manchmal entschuldigt es sich und liefert eine andere falsche Antwort, was sich wie eine Korrektur anfühlt, aber keine ist.
Sieh zu, wie eine passiert.
Das untenstehende Buch existiert nicht. Wir haben es erfunden. Führen Sie den Prompt aus und sehen Sie, was das Modell mit einer Lücke macht, die es nicht füllen kann.
Ausprobieren
Fragen Sie nach einem Buch, das nicht existiert
Beide Ergebnisse lehren die Lektion. Wenn das Modell abgelehnt hat, beachten Sie, wie es das getan hat – das ist das Signal, auf das Sie in Lektion 2 achten lernen. Wenn es eine Handlung produziert hat, lesen Sie sie: ein Familiengeheimnis, eine Kleinstadt, ein Kritiker, der die *"ruhige Präzision"* lobt. Plausibel, flüssig und aus dem Nichts geschaffen. Stellen Sie sich nun vor, es wäre ein Gerichtsfall, ein Medikament oder eine Steuerregel statt eines Romans.
Wissenscheck
Ein Modell gibt eine detaillierte, selbstbewusste Antwort zu einer kleinen lokalen Verordnung. Warum ist dies ein Fall, den man eher überprüfen als vertrauen sollte?