Die Funktion, die es nicht gibt
Jonas arbeitet im Support eines Onlineshops in Hamburg. Er bittet einen Assistenten, einen Fehler in der Rabattberechnung zu erklären.
Die Antwort klingt sicher und nennt eine Funktion mit Namen. Im Projekt gibt es diese Funktion gar nicht. Der Assistent hat sie erfunden.
In dieser Lektion lernen Sie, warum das passiert und wie Sie es früh bemerken.
Am Ende dieser Lektion
Notiz
Ich kann erklären, was ein KI-Assistent für Code tut und was er nicht weiß.
Schlüsselwörter
| Begriff | Was er bedeutet | Beispiel |
|---|---|---|
| KI-Assistent | ein Programm, das auf Wunsch Text und Code vorschlägt | |
| Sprachmodell | das Programm im Inneren, das die Fortsetzung eines Textes vorhersagt | |
| Kontext | alles, was der Assistent bei einer Antwort sieht | Ihre Frage und der eingefügte Code |
| Stichtag | das Datum, bis zu dem das Modell Texte gelernt hat | |
| Halluzination | eine erfundene Antwort, die glaubwürdig klingt | |
| Prompt | Ihre Eingabe an den Assistenten |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Ein Assistent sagt das nächste Stück Text voraus
Ein Sprachmodell hat sehr viele Texte und sehr viel Code gelesen. Dabei hat es gelernt, welche Wörter und Zeichen oft aufeinander folgen.
Bei Ihrer Frage wählt es Stück für Stück eine passende Fortsetzung. Es schlägt dabei nicht in einer Datenbank mit Wahrheiten nach. Es erzeugt Text, der wahrscheinlich passt.
Er sieht nur den Kontext
Der Kontext ist alles, was der Assistent bei einer Antwort vor sich hat: Ihre Frage, der eingefügte Code und das bisherige Gespräch.
Ihre Dateien, Ihre Datenbank und Ihr Team kennt er nicht. Sprechen Sie von einer Datei, die Sie nicht gezeigt haben, dann rät er. Manche Werkzeuge lesen Dateien Ihres Projekts selbst und legen sie in den Kontext. Dann sieht der Assistent mehr, aber nie alles.
Probieren Sie es: Was steht im Kontext?
# Ein vereinfachtes Bild: Der Assistent kennt nur den Kontext.
kontext = ["Die Funktion berechne_summe(preise) addiert alle Preise."]
# Die Frage handelt von einer Funktion, die Sie nicht gezeigt haben.
gesucht = "berechne_rabatt"
bekannt = False
for zeile in kontext:
if gesucht in zeile:
bekannt = True
if bekannt:
print("Der Assistent kann antworten.")
else:
print("Der Assistent kennt", gesucht, "nicht und rät.")
# Fügen Sie dem Kontext eine Zeile hinzu, die berechne_rabatt erklärt.
# Starten Sie dann neu.
Beispiel: Weiß er das?
| Frage an den Assistenten | Weiß er es? | Warum |
|---|---|---|
| Wie sortiert man eine Liste in Python? | Meist ja | Das steht in sehr vielen Texten |
| Was macht unsere Funktion pruefe_lieferung? | Nein, außer Sie zeigen sie | Sie steht nicht im Kontext |
| Wie ist die neueste Version einer Bibliothek? | Unsicher | Er kennt nur Texte bis zu seinem Stichtag |
| Warum ist der Server gestern ausgefallen? | Nein | Er sieht Ihre Server nicht |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Stichtag und erfundene Antworten
Ein Modell lernt bis zu einem Stichtag. Was danach erschienen ist, kennt es nicht, zum Beispiel neue Versionen einer Bibliothek.
Eine Halluzination ist eine erfundene Antwort, die glaubwürdig klingt: ein Funktionsname, den es nicht gibt, oder ein Befehl mit falschen Optionen. Der Ton verrät es nicht. Nur Prüfen hilft.
Ein häufiger Irrtum
Warnung
Viele denken: Wenn die Antwort so sicher klingt, stimmt sie auch. Der Assistent klingt oft gleich sicher, ob er richtig liegt oder nicht. Prüfen Sie jede Antwort, die Sie im Beruf verwenden wollen.