Weil sie nicht nachschlägt, sondern das wahrscheinlichste nächste Wort wählt. Wenn sie etwas nicht weiß, fällt ihr trotzdem etwas Passendklingendes ein, und sie sagt es im selben sicheren Ton wie die Wahrheit.
Selbst getestet und geprüft von Phil zuletzt am 12. September 20265 Minuten Lesezeit
- Phase
- Worauf man aufpassen muss
- Lesezeit
- 5 Minuten
- Zuletzt geprüft
- 12. September 2026
Das ist die wichtigste Eigenschaft, die man kennen muss. Wer sie kennt, kann mit KI gut arbeiten. Wer sie nicht kennt, glaubt irgendwann etwas Falsches, und merkt es womöglich nie.
Im Fachjargon heißt das „Halluzination“. Ein irreführendes Wort, weil es nach einer Störung klingt. Es ist keine Störung. Es ist die normale Arbeitsweise des Programms.
Die KI schlägt nichts nach, sie wählt das Wahrscheinlichste
Die KI schlägt nichts nach. Sie wählt Wort für Wort das, was am wahrscheinlichsten passt (so funktioniert das).
Fragst du nach einer Jahreszahl, die sie nicht kennt, gibt es kein Fach im Kopf, in dem „unbekannt“ steht. Es gibt nur die Frage: Welche Zeichen kommen jetzt am wahrscheinlichsten? Und nach „Das Gesetz trat in Kraft am“ ist eine Jahreszahl viel wahrscheinlicher als „das weiß ich nicht“.
Also kommt eine Jahreszahl. Eine plausible. Manchmal die richtige.
Das eigentlich Gefährliche daran
Nicht, dass sie sich irrt. Menschen irren auch. Sondern dass man es dem Text nicht ansieht. Ein Mensch, der unsicher ist, zögert, schaut weg, sagt „ich glaube“. Die KI schreibt Erfundenes im exakt selben ruhigen, gut formulierten Ton wie Belegtes.
Wo es am häufigsten passiert
- Quellenangaben. Der Klassiker. Erfundene Buchtitel, erfundene Studien, erfundene Paragrafen. Sie sehen echt aus, weil das Muster stimmt.
- Zahlen und Termine. Preise, Fristen, Gesetzesdaten, Öffnungszeiten.
- Wenig bekannte Personen und Orte. Über Wien weiß sie viel. Über den Bürgermeister einer 900-Einwohner-Gemeinde weiß sie nichts, und erfindet trotzdem eine Biografie.
- Alles nach ihrem Lernstand. Fragen zu neueren Ereignissen werden mit älterem Wissen beantwortet, ohne Hinweis darauf.
- Wenn man nachbohrt. Fragt man „bist du sicher?“, entschuldigt sich das Programm oft und liefert eine zweite erfundene Antwort. Ein Widerruf ist kein Beweis für die neue Version.
Unsicherheit einfordern und die Quellen anklicken
- Die Unsicherheit einfordern. Schreib dazu: „Wenn du dir nicht sicher bist, sag das ausdrücklich, statt zu raten.“ Das beseitigt es nicht, macht die wackligen Stellen aber deutlich häufiger sichtbar.
- Nach Quellen fragen, und sie anklicken. Nicht die Aufzählung reicht, sondern der Klick. Ein Link, der ins Leere führt, ist die häufigste Form der Erfindung.
- Zweitmeinung einholen. Dieselbe Frage bei einem anderen Anbieter stellen. Zwei unabhängige gleiche Antworten sind ein gutes Zeichen, ein Widerspruch ein Warnsignal.
- Material mitliefern. Am wirksamsten überhaupt: Statt „Was steht im Mietrecht zu X?“ lieber den Vertrag hochladen und fragen „Was steht in diesem Dokument zu X?“ Wenn der Text vorliegt, muss nichts erfunden werden.
Die Grenze, die man ziehen sollte
Für alles, wo eine falsche Antwort Folgen hätte. Gesundheit, Geld, Recht, Termine, ist die KI der erste Entwurf und niemals die letzte Auskunft.
Für Formulieren, Zusammenfassen, Übersetzen und Ideensammeln gilt das nicht. Da ist Erfindung kein Problem, weil du selbst siehst, ob es passt.
Häufige Fragen
- Was bedeutet Halluzination bei KI?
- So nennt man es, wenn die KI etwas erfindet und überzeugend darstellt. Es ist keine Fehlfunktion, sondern eine Folge davon, wie sie arbeitet: Sie wählt wahrscheinliche Wörter, nicht belegte Tatsachen.
- Kann man das Erfinden abschalten?
- Nein. Man kann es verringern, indem man Material mitliefert, Quellen anklickt und ausdrücklich um Unsicherheitshinweise bittet.
- Ist es ein gutes Zeichen, wenn die KI sich entschuldigt?
- Nein. Auf ein „bist du sicher?“ folgt oft eine Entschuldigung und eine zweite erfundene Antwort. Der Widerruf beweist die neue Version nicht.
Skills für dein KI-Werkzeug
Erfundene Zahlen fallen meist erst auf, wenn ein Kunde nachfragt. Im Paket steckt eine Anweisung, die jeden fertigen Text Satz für Satz gegen die Quellen prüft und zu jeder Aussage ein Urteil hinschreibt.
Zuletzt geprüft am 12. September 2026. KI-Anbieter ändern Preise und Funktionen laufend. Wenn dir etwas auffällt, das nicht mehr stimmt, schreib mir kurz.