Ein Chatbot schreibt dir eine Antwort
Du fragst einen Chatbot nach einem Buch für dein Referat, und er nennt dir einen Titel samt Autorin. Das Buch gibt es nicht.
Ein Chatbot ist eine Künstliche Intelligenz (KI), die Sprache erzeugt. Heute baust du das kleinste Beispiel nach und siehst, warum so etwas passiert.
Am Ende dieser Lektion
Notiz
Ich kann abwägen, was eine KI gut kann und was nicht.
Schlüsselwörter
| Begriff | Was er bedeutet |
|---|---|
| Sprachmodell | ein Modell, das schätzt, welches Wort als Nächstes kommt |
| Folgewort | das Wort, das in einem Text auf ein anderes folgt |
| Wahrscheinlichkeit | wie oft etwas vorkommt im Vergleich zu allen Fällen |
| Erfundene Antwort | eine Antwort, die glaubwürdig klingt, aber falsch ist |
| Fairness | alle Menschen werden gleich gut behandelt |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Wie rät ein Sprachmodell das nächste Wort?
Ein Sprachmodell hat sehr viele Texte gelesen und schätzt daraus, welches Wort am wahrscheinlichsten folgt. Es versteht nicht wie du, es rechnet mit Häufigkeiten.
Das einfachste Modell zählt nur Paare: Welches Folgewort kommt wie oft nach einem Wort? Große Modelle tun dasselbe mit viel mehr Wörtern und viel mehr Text.
Bevor du anfängst
Notiz
Drück oben in der Leiste auf Lab starten und warte, bis JupyterLab läuft. Die Befehle tippst du im Terminal neben dem Lab. Die zwei Skripte arbeiten mit einem kurzen englischen Text über einen Fahrradladen. Die Tabelle gleich darunter übersetzt ihn.
Der kleine Text des Labs auf Deutsch
| Englischer Satz im Skript | Das heißt |
|---|---|
| the shop opens at nine | der Laden öffnet um neun |
| the shop hires bikes by the hour | der Laden verleiht Räder stundenweise |
| the bikes are red | die Räder sind rot |
| a customer hires a bike | eine Kundin leiht ein Rad |
| the customer pays at the desk | die Kundschaft zahlt am Tresen |
| the desk is by the door | der Tresen ist bei der Tür |
| the shop closes at six | der Laden schließt um sechs |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Zählen, was auf das Wort the folgt
docker exec jupyter python3 steps/bigram.pyHier angezeigt, nicht ausgeführt. Erstellen Sie ein kostenloses Konto, um „Ausführen“ zu drücken und ihn im Terminal Ihres eigenen Labs einzugeben.
Beispiel: was bigram.py druckt
| Folgewort nach „the“ | Wie oft | Anteil |
|---|---|---|
| shop (Laden) | 3 | 0,33 |
| desk (Tresen) | 2 | 0,22 |
| hour (Stunde) | 1 | 0,11 |
| bikes (Räder) | 1 | 0,11 |
| customer (Kundschaft) | 1 | 0,11 |
| door (Tür) | 1 | 0,11 |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Warum erfindet eine KI Antworten?
Ein Sprachmodell wählt ein Wort nach seiner Wahrscheinlichkeit. Es prüft nicht, ob der Satz stimmt. Es kennt nur, was zu den Wörtern davor passt.
Darum klingen seine Sätze glaubwürdig, auch wenn sie falsch sind. Ein Titel mit passender Autorin ist wahrscheinlich, auch wenn es das Buch nicht gibt. Das ist eine erfundene Antwort.
Vier neue Sätze, ein Wort nach dem anderen
docker exec jupyter python3 steps/generate.pyHier angezeigt, nicht ausgeführt. Erstellen Sie ein kostenloses Konto, um „Ausführen“ zu drücken und ihn im Terminal Ihres eigenen Labs einzugeben.
Beispiel: was generate.py druckt
| Gedruckter Satz | Wie er klingt |
|---|---|
| the shop opens at the hour . | Beginnt sinnvoll und endet seltsam |
| the customer hires bikes by the desk is by the shop opens | Klingt halb richtig, ergibt aber keinen Sinn |
| the desk is by the desk . | Grammatisch, aber leer |
| the shop opens at nine . | Zufällig ein richtiger Satz aus dem Text |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Ein häufiger Fehler
Warnung
Viele denken, eine KI wisse, was wahr ist, weil sie überzeugend schreibt. Sie schätzt aber nur, was als Nächstes passt. Prüfe darum wichtige Angaben, vor allem Namen, Zahlen und Quellen, immer in einer zweiten, verlässlichen Quelle nach.
Was kann KI gut, was schlecht?
KI ist gut bei Aufgaben mit vielen Beispielen und klarem Muster: Texte zusammenfassen, Sprache übersetzen, Spam erkennen. Sie ist schwach, wenn Fakten stimmen müssen oder wenn die Beispiele wenig Vielfalt haben.
Dann kann sie Gruppen schlechter behandeln, die in den Daten fehlen. Das Datenschutzgesetz verlangt außerdem, dass Dienste mit deinen Daten sorgsam umgehen.
Beispiel: eine Aufgabe, Stärke und Gefahr
| Aufgabe | Was gut geht | Worauf du achtest |
|---|---|---|
| Einen Text kürzen | Schnell und meist treffend | Es kann Wichtiges weglassen |
| Eine Quelle nennen | Klingt überzeugend | Die Quelle kann erfunden sein |
| Bewerbungen vorsortieren | Spart Zeit | Es kann Gruppen benachteiligen, die in den Daten fehlen |
| Fotos nach Motiv ordnen | Sehr gut bei häufigen Motiven | Seltene Motive erkennt es schlechter |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Weiterführend: dein eigenes Urteil
Wähle eine Aufgabe, bei der Schulen oder Firmen eine KI einsetzen könnten, etwa Noten vorschlagen. Schreib je einen Satz dazu, was gut gehen würde, was schiefgehen könnte und wer dann betroffen wäre.
Entscheide am Ende: Würdest du sie allein entscheiden lassen oder einen Menschen prüfen lassen? Begründe in zwei Sätzen.