無料モジュール
AIエージェントの安全対策
AIエージェントのセキュリティを実践で学ぶ: 脅威モデル、データ流出の防止、混乱した代理人、他人のツールの扱い、権限の分離、レッドチームによる防御の測定まで。
7件のレッスン475分のレッスンソフトウェア工学
レッスン一覧
どのレッスンも全文を無料で読めます。無料アカウントを作ると、コマンドをラボで実行し、クイズと課題に取り組めます。
1 · コンテナラボ
AIエージェントの脅威モデル
エージェントが攻撃される場所を地図にできる。
レッスンを読む2 · コンテナラボ
AIエージェントからのデータ流出対策
データがエージェントから出ていく経路を、コードで検査する許可リストでふさげる。
レッスンを読む3 · コンテナラボ
AIエージェントの混乱した代理人
頼んだ人より大きな権限でエージェントが動かないよう、操作ごとに依頼者と照らして確かめられる。
レッスンを読む4 · コンテナラボ
他人のツールを信じてよいか
自分で書いていないツールを信じてよいか、定義を固定して中身を点検することで決められる。
レッスンを読む5 · コンテナラボ
AIエージェントの権限分離
信頼できない文字が行動する力に届かないように、エージェントを分けられる。
レッスンを読む6 · コンテナラボ
AIエージェントのレッドチーム
記録した攻撃のセットで、攻撃がどれだけ通るか、直して改善したかを測れる。
レッスンを読む7 · コンテナラボ
AIエージェントの防御を採点する
ラベル付きのセットで防御を採点し、防いだ攻撃、見逃した攻撃、誤検知を数えられる。
レッスンを読む
授業で使いますか？このモジュールを学生に割り当てると、教員用ガイド、自動採点つきの課題、学生ごとのラボを使えます。