Fairness und Bias bei KI

Bias bei KI heißt, dass ein Programm manche Gruppen von Menschen weniger fair behandelt als andere. Ein Kino in Ravensfeld lässt ein KI-Werkzeug auswählen, wer zum Gespräch für einen Wochenendjob kommt.

Zwanzig Leute bewerben sich. Fast alle, die es auswählt, wohnen in der Nordstadt. Niemand hat ihm das gesagt. Wie kam es dazu?

Das Werkzeug des Kinos hat aus früheren Aushilfen gelernt. Die meisten wohnten in der Nordstadt, weil die alte Buslinie von dort kam.

Also hat das Werkzeug „Nordstadt“ als Teil einer guten Aushilfe gelernt. Das ist Bias. Die Trainingsdaten waren schief, also sind es die Ergebnisse auch.

Bias erkennst du oft schon durch einfaches Zählen. Teil die Menschen in Gruppen ein und vergleiche, wie oft jede Gruppe ausgewählt wurde.

Haben sich zwei Gruppen gleich beworben, aber eine wird viel öfter ausgewählt, frag nach dem Grund.

# Jede Person ist [Gruppe, ausgewählt]. True heißt ausgewählt.
personen = [
    ["nord", True], ["nord", True], ["nord", False], ["nord", True],
    ["sued", False], ["sued", True], ["sued", False], ["sued", False],
]

beworben = {}
ausgewaehlt = {}
for person in personen:
    gruppe = person[0]
    if gruppe not in beworben:
        beworben[gruppe] = 0
        ausgewaehlt[gruppe] = 0
    beworben[gruppe] = beworben[gruppe] + 1
    if person[1]:
        ausgewaehlt[gruppe] = ausgewaehlt[gruppe] + 1

for gruppe in beworben:
    print(gruppe, ausgewaehlt[gruppe], "von", beworben[gruppe])

# Ausgewählt von beworben je Gruppe, aus dem Run oben.
nord_ausgewaehlt = 3
nord_beworben = 4
sued_ausgewaehlt = 1
sued_beworben = 4

nord_quote = round(nord_ausgewaehlt * 100 / nord_beworben)
sued_quote = round(sued_ausgewaehlt * 100 / sued_beworben)
print("Nord:", nord_quote, "%")
print("Süd:", sued_quote, "%")
print("Abstand:", nord_quote - sued_quote, "%")

Sag, was dir aufgefallen ist, mit den Zahlen. Sag es jemandem, der es ändern kann: einer Lehrkraft, deiner Chefin oder dem Melde-Knopf einer App. Bitte darum, dass ein Mensch die Entscheidung prüft.

Prüf auch deine eigene Nutzung. Lässt du KI Bilder oder Geschichten über Menschen machen, schau, wer gezeigt wird und wer fehlt.

Denk an ein Bildwerkzeug, das „eine Forscherin oder einen Forscher“ oder „eine Pflegekraft“ zeigen soll. Zeigt es immer dieselbe Art von Mensch, steckt Bias in seinen Beispielen.

Schreib zwei Fragen auf, die du den Leuten stellen würdest, die so ein Werkzeug gebaut haben.