Warum hat das Modell so entschieden?
Eine Vorhersage erklären heißt zeigen, welche Eingaben sie bestimmt haben. Wer abgelehnt wird, will den Grund wissen, und die Verantwortlichen wollen prüfen, ob er stimmt.
Ein Programm bewertet Bewerbungen mit einem Punktwert. Eine Person fragt, warum sie nur 53 Punkte hat. „Das Modell hat es so berechnet“ ist keine Antwort.
Am Ende dieser Lektion
Notiz
Ich kann erklären, welche Eingaben eine Vorhersage bestimmen.
Schlüsselwörter
| Begriff | Was er bedeutet | Beispiel |
|---|---|---|
| Eingabe | ein Wert, den ein Modell für seine Vorhersage nutzt | Berufsjahre |
| Vorhersage | das Ergebnis, das ein Modell für einen Fall liefert | |
| Gewicht | wie stark eine Eingabe die Vorhersage verschiebt | |
| Erklärung | die Antwort auf die Frage, warum diese Vorhersage | |
| Wirkung | die Änderung der Vorhersage, wenn sich eine Eingabe ändert |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Ein einfaches Modell zeigt seine Gewichte
Bei einer Geraden zeigt jedes Gewicht, wie stark eine Eingabe die Vorhersage verschiebt. Das ist schon eine Erklärung.
model.py im Lab passt eine Gerade an Temperatur und Regen an. Der Befehl unten gibt drei Zahlen aus: die Ausleihen je Grad, die Ausleihen je Millimeter Regen und R squared, also wie gut die Gerade passt.
Die Gewichte einer Geraden ausgeben
docker exec jupyter python3 steps/model.pyHier angezeigt, nicht ausgeführt. Erstellen Sie ein kostenloses Konto, um „Ausführen“ zu drücken und ihn im Terminal Ihres eigenen Labs einzugeben.
Beispiel: die Gewichte lesen
| Eingabe | Gewicht | Lesart |
|---|---|---|
| Temperatur | 11,2 | Ein Grad mehr bringt etwa 11 Ausleihen mehr |
| Regen | -8,2 | Ein Millimeter mehr bringt etwa 8 Ausleihen weniger |
| R squared | 0,776 | Die Gerade erklärt etwa drei Viertel der Schwankung |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Eine Eingabe zu ändern zeigt ihre Wirkung
Auch ein Modell ohne lesbare Gewichte lässt sich befragen. Sie ändern eine Eingabe, lassen alle anderen gleich und sehen, wie sich die Vorhersage bewegt. Diese Wirkung ist die Erklärung.
Das Beispiel: Ein Programm bewertet Bewerbungen mit 20 Punkten Grundwert, 5 Punkten je Berufsjahr und einem halben je Testpunkt. Für jeden Monat Lücke im Lebenslauf zieht es 2 Punkte ab.
Beispiel: eine Eingabe nach der anderen ändern
| Änderung | Punkte danach | Wirkung |
|---|---|---|
| Ausgangswert: 3 Jahre, 60 Testpunkte, 6 Monate Lücke | 53 | |
| Ein Berufsjahr mehr | 58 | +5 |
| Zehn Testpunkte mehr | 58 | +5 |
| Sechs Monate mehr Lücke | 41 | -12 |
Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.
Die Wirkung jeder Eingabe selbst ausrechnen
# Der Punktwert einer Bewerbung: Grundwert, Berufsjahre, Testpunkte und Lücke im Lebenslauf
def punkte(erfahrung, testpunkte, luecke):
return 20 + 5 * erfahrung + 0.5 * testpunkte - 2 * luecke
basis = punkte(3, 60, 6)
print("Ausgangswert:", basis)
print("ein Jahr mehr Erfahrung:", punkte(4, 60, 6) - basis)
print("zehn Testpunkte mehr:", punkte(3, 70, 6) - basis)
print("sechs Monate mehr Lücke:", punkte(3, 60, 12) - basis)
# Ändern Sie die Person und prüfen Sie: Wirkt ein Jahr mehr Erfahrung immer gleich stark?
Eine Erklärung muss die Person verstehen
Eine gute Erklärung hat zwei Teile. Sie nennt die entscheidenden Eingaben in einfachen Worten: „Die Lücke von sechs Monaten kostete 12 Punkte.“ Und sie sagt, was sich ändern müsste.
Eine Erklärung zeigt, was das Modell tut. Sie zeigt nicht, ob es richtig ist. Ob eine Lücke überhaupt zählen darf, müssen Menschen prüfen.
Ein häufiger Fehler
Warnung
Viele denken, die Eingabe mit der größten Zahl vor sich sei die wichtigste. Ein Gewicht hängt aber von der Einheit ab: Ein halber Punkt je Testpunkt wirkt klein, zehn Testpunkte wirken so stark wie ein Berufsjahr. Vergleichen Sie Schritte, die im Leben vorkommen, und nicht die nackten Gewichte.
Weiterführend: Temperatur oder Regen
Welche Eingabe wirkt in model.py stärker: zehn Grad mehr oder zehn Millimeter mehr Regen? Rechnen Sie beides mit den Gewichten aus und schreiben Sie auf, wie Sie es der Leitung des Verleihs erklären würden.
Welche Schritte sind im Leben realistisch? Zehn Millimeter Regen kommen an einem nassen Tag vor, zehn Grad Unterschied zwischen zwei Wochen ebenfalls.