KI-Glossar
Red Teaming
Red Teaming heißt, das eigene KI-System gezielt anzugreifen, um es zu Fehlverhalten, Datenabfluss oder Werkzeugmissbrauch zu bringen und Schwächen zu finden, bevor andere es tun.
Ein Red Team schreibt feindselige Eingaben: Injection versteckt in Dokumenten, Anfragen, die Regeln Schritt für Schritt umgehen, Werkzeugaufrufe außerhalb ihrer Grenzen.
Jeder Angriff, der klappt, wird zum Testfall, damit eine spätere Änderung, die die Lücke wieder öffnet, auffällt.
Red Teaming findet Probleme, beweist aber nicht, dass es keine gibt. Kombinieren Sie es mit Grenzen im Code, damit auch nicht bedachte Angriffe begrenzt sind.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.