KI-Glossar
Guardrails (Leitplanken)
Guardrails sind die Prüfungen rund um einen Modellaufruf, die unerwünschte Ein- und Ausgaben stoppen, durchgesetzt im Code und nicht nur im Prompt erbeten.
Sie sitzen auf beiden Seiten des Modells: beim Eingang Länge, Thema und personenbezogene Daten, beim Ausgang Format, verbotene Inhalte und ob ein Werkzeugaufruf erlaubt ist.
Ein einfaches Beispiel ist eine Positivliste: Der Assistent darf diese drei Werkzeuge mit diesen Argumentbereichen aufrufen, alles andere lehnt der Code vor der Ausführung ab.
Eine Leitplanke, die nur als Satz im System-Prompt steht, ist ein Wunsch. Echte Leitplanken sind Code, der läuft, egal was das Modell sagt.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.