KI-Glossar
Modell-Routing
Modell-Routing schickt jede Anfrage an das passendste Modell, oft ein kleines günstiges für leichte Anfragen und ein größeres nur bei Bedarf.
Ein Router kann eine einfache Regel sein, etwa kurze Fragen an das kleine Modell, oder ein Klassifikator, der schätzt, wie schwer eine Anfrage ist.
Routing geht mit Ausweichlösungen einher: Läuft ein Modell in eine Zeitüberschreitung oder lehnt ab, geht die Anfrage an ein anderes, und die Funktion arbeitet weiter.
Jede Route braucht eigene Evaluierungen. Ein günstigeres Modell, das bei einer Art von Anfrage still versagt, spart Geld und kostet Vertrauen.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.