KI-Glossar
Streaming
Streaming sendet die Antwort eines Modells Stück für Stück, während sie entsteht, sodass die ersten Wörter sofort erscheinen, statt auf die ganze Antwort zu warten.
Die meisten APIs streamen mit Server-Sent Events: Die Verbindung bleibt offen, und jedes Ereignis bringt die nächsten Tokens, die die Seite anhängt.
Streaming macht das Modell nicht schneller; es lässt das Warten kürzer wirken, weil das Lesen beginnt, während das Schreiben weitergeht.
Streamen Sie Text, den ein Mensch liest. Für JSON, das Ihr Code parsen muss, ist es meist einfacher, auf die ganze Antwort zu warten.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.