KI-Glossar
Caching
Caching bewahrt das Ergebnis eines früheren Modellaufrufs auf, damit dieselbe Anfrage erneut beantwortet werden kann, ohne zweimal dafür zu zahlen.
Der einfachste Cache nimmt den exakten Prompt und die Einstellungen als Schlüssel und speichert die Antwort. Eine wiederholte Frage kostet dann nichts und kommt sofort.
Viele Anbieter cachen auch einen langen, gleichbleibenden Prompt-Anfang wie den System-Prompt oder ein Dokument, was spätere Aufrufe günstiger und schneller macht.
Ein Cache muss vergessen können: Nehmen Sie Modell- und Prompt-Version in den Schlüssel auf, damit eine Änderung nicht die Antworten von gestern liefert.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.