KI-Glossar
Halluzination
Eine Halluzination ist eine Antwort eines Sprachmodells, die sicher und flüssig klingt, aber nicht von seinen Quellen gedeckt oder schlicht falsch ist.
Das Modell schreibt wahrscheinlichen Text, keinen geprüften. Weiß es etwas nicht, kann die plausible Antwort eine erfundene Quelle, eine nicht existierende Funktion oder eine falsche Zahl sein.
Abschaffen lässt sich das nicht, aber seltener und leichter erkennbar machen: Quelldokumente mitgeben, Zitate verlangen, „Ich weiß es nicht“ erlauben und messen, wie oft Antworten ungedeckt sind.
Ein häufiger Fehler ist, der Sicherheit des Modells zu trauen. Eine falsche Antwort klingt so ruhig wie eine richtige; die Prüfung muss von außen kommen, von einer Quelle, einem Test oder einem Menschen.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.