Das Risiko einer KI-Funktion bewerten

Welche Funktion braucht die meiste Sorgfalt

Eine Risikobewertung sagt, wie viel Schaden eine KI-Funktion anrichten kann und wie viel Sorgfalt sie vor dem Start braucht. Das ist wichtig, weil ein Speiseplan-Helfer und ein Lebenslauf-Filter dasselbe Modell nutzen können und trotzdem nicht gleich riskant sind.

Diese Lektion gibt allgemeine Informationen und keine Rechtsberatung. Prüfen Sie die Regeln, die für Sie gelten, und fragen Sie eine Juristin oder einen Juristen, wenn eine Entscheidung Menschen betrifft.

Am Ende dieser Lektion

Notiz

Ich kann das Risiko einer KI-Funktion bewerten und sagen, wer dafür einsteht.

Schlüsselwörter

Begriff	Was er bedeutet
Risikostufe	eine Stufe, die sagt, wie viel Sorgfalt die Funktion braucht
Automatische Entscheidung	ein Ergebnis, das vorher niemand prüft
Umkehrbar	ein falsches Ergebnis lässt sich korrigieren
Verantwortliche Person	die namentlich bekannte Person, die für die Funktion einsteht
Rechenschaft	erklären müssen, was geschah, und es beheben

Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.

Vier Fragen ergeben eine Stufe

Stellen Sie vier Fragen zu einer Funktion. Wirkt sie auf Menschen? Prüft eine Person jedes Ergebnis, bevor es wirkt? Lässt sich ein falsches Ergebnis korrigieren? Wie viele Menschen erreicht sie?

Vier Dinge erhöhen das Risiko und geben Punkte. Die Funktion wirkt auf Menschen. Niemand prüft das Ergebnis. Ein Fehler lässt sich nicht korrigieren. Sie erreicht viele Menschen. Die Summe ergibt eine Stufe. Die Stufe eröffnet das Gespräch, sie beendet es nicht. Sie verhindert, dass eine riskante Funktion wie ein Spielzeug behandelt wird.

Durchgerechnetes Beispiel: zwei Funktionen

Funktion	Personen	Automatisch	Nicht umkehrbar	Über 1000	Punkte und Stufe
Bestellverfolgung	nein	ja: 2	nein	nein	2, niedrig
Lebenslauf-Filter	ja: 2	ja: 2	ja: 2	nein	6, hoch

Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.

Jede Funktion hat eine namentlich bekannte Person

Eine Rolle wie „das Datenteam“ ist keine verantwortliche Person. Eine verantwortliche Person wird gefragt, wenn die Funktion Schaden anrichtet, und darf sie abschalten.

Manche Länder haben Regeln für Entscheidungen, die ein System allein über Menschen trifft. Oft verlangen sie, dass ein Mensch sie überprüfen kann. Das ist eine Zusammenfassung und keine Rechtsberatung: Suchen Sie die Regeln, die für Sie gelten.

Ein häufiger Fehler

Warnung

Viele glauben, das Modell bestimme das Risiko, ein sicheres Modell ergebe also eine sichere Funktion. Das Risiko kommt davon, was die Funktion tut, für wen und ob es sich rückgängig machen lässt. Bewerten Sie die Funktion, nie das Modell.