KI-Glossar
Observability (Beobachtbarkeit)
Observability für KI-Funktionen heißt, jeden Modellaufruf mit Prompt, Einstellungen, Tokens, Dauer und Ergebnis aufzuzeichnen, um zu sehen, was geschah und warum.
Ein Trace folgt einer Anfrage durch jeden Schritt: Suche, jeden Modellaufruf, jeden Werkzeugaufruf. Man sieht, welcher Schritt langsam, welcher teuer war und wo eine Antwort entgleiste.
Nützliche Felder sind Modell- und Prompt-Version, Token-Zahlen, Latenz, Kosten, Fehler und ein Verweis auf das Feedback der Nutzerin.
Prompt-Protokolle können personenbezogene Daten enthalten. Schwärzen Sie vor dem Speichern, bewahren Sie nur so lange auf wie nötig und begrenzen Sie, wer sie lesen darf.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.