KI-Transparenz und Protokollierung

War das ein Mensch oder ein Programm?

KI-Transparenz heißt, Menschen zu sagen, dass sie es mit einem KI-System zu tun haben, und zu zeigen, was es erzeugt hat. Das ist wichtig, weil man einer Antwort anders vertraut, wenn man weiß, dass ein Programm sie schrieb.

Die Protokollierung ist die andere Hälfte. Geht etwas schief, muss eine Prüfung wissen, was gefragt wurde, welches Modell antwortete und wer freigab.

Am Ende dieser Lektion

Notiz

Ich kann KI offenlegen, ihre Ergebnisse kennzeichnen und die Einträge führen, die eine Prüfung braucht.

Schlüsselwörter

Begriff	Was er bedeutet	Beispiel
Offenlegung	einem Menschen sagen, dass er es mit KI zu tun hat
Kennzeichnung	ein sichtbarer Hinweis, dass KI etwas erzeugt hat
Eintrag	die gespeicherte Notiz zu einer KI-Antwort
Modellversion	das genaue Modell, das geantwortet hat	v3
Aufbewahrungsfrist	wie lange ein Eintrag bleibt
Systemkarte	eine kurze Seite, die eine KI-Funktion beschreibt

Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.

Sagen Sie, dass KI antwortet

Sagen Sie es, bevor sich jemand auf die Antwort verlässt, und zwar dort, wo man es sieht. Das kann am Anfang eines Chats sein, neben einer Antwort oder in den ersten Worten eines Anrufs.

Ergänzen Sie in einer Zeile, was das System kann und was nicht, und wie man einen Menschen erreicht. Erwartungen genauer zu setzen lehrt die Lektion Erwartungen an eine KI-Funktion setzen.

Kennzeichnen Sie, was KI erzeugt hat

Ein Text, ein Bild oder eine Zusammenfassung von einem Modell trägt einen kurzen, sichtbaren Hinweis. Die Kennzeichnung sagt, wer es erzeugt hat, nicht ob es gut ist.

Verlässt eine Datei Ihr Produkt, schreiben Sie den Hinweis auch in ihre Eigenschaften. Dann bleibt er erhalten, wenn jemand die Datei kopiert.

Durchgerechnetes Beispiel: wo Sie es sagen

Ort	Was die Person sieht
Anfang eines Chats	Sie chatten mit einem KI-Assistenten. Ein Mensch kann übernehmen.
Unter einem Bild	Mit KI erstellt
Fuß eines E-Mail-Entwurfs	Von KI entworfen, geprüft von Lena Vogel
Erste Worte eines Anrufs	Hier spricht ein automatischer Assistent.

Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.

Was ein Eintrag enthalten muss

Ein Eintrag hält fest, was gefragt wurde, welche Modellversion antwortete und welche Person eine Aktion freigab. Ohne die Version kann niemand sagen, welches Modell sich geirrt hat.

Bewahren Sie einen Eintrag nur so lange auf, wie eine Prüfung ihn braucht, und lassen Sie unnötige personenbezogene Daten weg. Mehr dazu in Sicher protokollieren in einer KI-App und im Modul Datenschutz für KI-Anwendungen.

Ein häufiger Fehler

Warnung

Viele glauben, mehr Einträge seien immer sicherer, und behalten alles für immer. Ein Eintrag voller personenbezogener Daten, über Jahre aufbewahrt, ist selbst ein Risiko. Behalten Sie nur die Felder, die eine Prüfung braucht, und nur so lange wie nötig.

Eine kurze Systemkarte beschreibt die Funktion

Eine Systemkarte, auch Modellkarte genannt, ist eine kurze Seite über eine KI-Funktion oder ein Modell. Sie nennt den Zweck, die Grenzen, wie bewertet wurde, wer verantwortlich ist und wie man diese Person erreicht.

Schreiben Sie sie für jemanden, der die Funktion nie gesehen hat. Ein leeres Feld ist eine Lücke, genau wie eine Lücke in einer Prüfung.

Regeln verlangen das immer öfter

In der EU und im Vereinigten Königreich verlangen Regeln immer öfter, dass Entwickler KI offenlegen, ihre Ergebnisse kennzeichnen und Einträge führen. Was eine Regel verlangt und ab wann, unterscheidet sich je nach Ort und ändert sich.

Dies ist allgemeine Information und keine Rechtsberatung: Lesen Sie den aktuellen amtlichen Text oder fragen Sie eine qualifizierte Person. Diese Dinge zu tun, erfüllt für sich allein noch keine Regel.

Durchgerechnetes Beispiel: eine kurze Systemkarte

Feld	Bestellhilfe
Zweck	Beantwortet Fragen zu Bestellungen
Grenzen	Kann weder Zahlungen noch Adressen ändern
Bewertungen	40 aufgezeichnete Fälle, 37 bestanden
Verantwortlich	Mia Braun
Kontakt	[email protected]

Die Zellen, die Lernende ausfüllen, bleiben in dieser Vorschau leer.