信頼できないコードを動かす
AI エージェントがスクリプトを書き、すぐに動かします。ウェブサイトが、お客さんにプログラムをアップロードさせます。すべての行を先に読める人はいません。そこでコードはサンドボックスの中で動かします。Linux カーネルがまわりに立てる囲いの組です。
このレッスンが終わると
メモ
プログラムのまわりにカーネルの囲いを立て、それが何を止めるかを確かめられます。
キーワード
- サンドボックス:プログラムが届く範囲を限る囲い。
- 名前空間:ネットワークなど、1つのものを自分だけの見え方にしたもの。
- cgroup:メモリーなどに制限をかけたプロセスの組。
- seccomp:プログラムがカーネルに出す頼みごとを絞るフィルター。
- システムコール:プログラムからカーネルへの1つの頼みごと。
ウォームアップ:すでに知っていること
メモ
頭の中で答えてください。1. プログラムを動かすと、あなたのファイルを読めるのは誰ですか。2. root とは何ですか。3. AI が書いたコードが危ないかもしれないのはなぜですか。1つ目の答えは、すぐあとで使います。
始める前に
メモ
このレッスンの上のバーでラボを起動を押します。このラボは自分専用のUbuntu マシンまるごと 1 台で、初回は道具を入れるので、数分かかります。各実行ボタンは、コマンドをマシンのターミナルに順番に、同じセッションの中で入力します。マシンがまだ起動中と出たら、数秒待ってからもう一度押してください。動きを見たり、自分で入力したりしたいときは、バーのターミナルを開くを押します。
信頼できないコードはあなたとして動く
ファイルはフォルダー lab にあります。最初のコマンドでそこに移ります。agent.py は信頼できないコードの身代わりです。secrets の鍵を読むように言うと、demo-key-4417-not-real と表示します。外へ通信するように言うと Connection refused と言います。そのポートで待っているものはありませんが、ネットワークはありました。
cd ~/labここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
python3 agent/agent.py secretここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
python3 agent/agent.py callここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
チェック
ヒント
エージェントが鍵を読めたのはなぜですか。答え:あなたとして、あなたの力をすべて持って動き、あなたは自分のファイルを読めるからです。
名前空間がネットワークを取り上げる
unshare --net は、ネットワークの何もない新しいネットワーク名前空間でコマンドを動かします。同じ通信が、今度は Network is unreachable と言います。接続する先がまったくないのです。
sudo unshare --net python3 agent/agent.py callここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
cgroup がメモリーを制限する
sbx limit はラボの補助コマンドです。メモリーの上限が 64 MB のcgroupを作り、その中でエージェントを動かします。エージェントは 200 MB を求めます。最初の行を表示したあと、カーネルに止められます。sbx は exit status 137 と oom_kill 1 を示します。
sudo sbx limit --memory 64M -- python3 agent/agent.py memory 200ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
よくある間違い
注意
メモリーの上限を超えたプログラムは、自分で処理できるエラーを受け取ると思っている人が多くいます。Linux では、たいていカーネルが前触れなく止めるので、最後の行は表示されません。
seccomp フィルターが呼び出しを断る
sbx seccomp はシステムコールの許可リストを読み込みます。リストにない呼び出しは、すべて断られます。リストにはネットワーク接続を開く呼び出しがないので、エージェントの通信は今度は Operation not permitted と言います。
sbx seccomp profiles/python.allow -- python3 agent/agent.py callここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
bubblewrap がフォルダーを隠す
bwrap はマウントからサンドボックスを組み立てます。ここではディスク全体を読み取り専用で見せ、secrets の上に空のフォルダーをかぶせます。エージェントは No such file or directory と言います。
sudo bwrap --ro-bind / / --dev /dev --proc /proc --tmpfs /home/student/lab/secrets python3 agent/agent.py secretここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
最後のチェック
ヒント
見返さずに答えてください。1. ネットワーク名前空間は何を取り上げますか。2. cgroup のメモリーの上限を超えたプログラムはどうなりますか。3. seccomp の許可リストは、名前のない呼び出しをどうしますか。4. bubblewrap はどうやって鍵を隠しましたか。答え:すべてのネットワーク、カーネルに止められる、断る、上に空のフォルダーをかぶせた。では、cat ~/README.md でREADME.mdを開いてください。すべての囲いを一度に入れたスクリプトを 1 つ書きます。
先生へ
ヒント
手順と実行ボタンがレッスンで、ラボは生徒一人ひとりの専用コピーです。これは VM ラボで行います。生徒はそれぞれ自分専用の Ubuntu マシンを持ち、実行ボタンはそのターミナルに入力して、表示された内容を見せます。要点:1. 信頼できないコードは、起動したアカウントの力をすべて持って動く。2. 名前空間は、ネットワークなど 1 つのものを隠す。3. cgroup はメモリーを制限し、超えたプログラムはカーネルに止められる。4. seccomp の許可リストは、名前のない呼び出しをすべて断る。よくある間違い:メモリーの上限を超えたプログラムはエラーを受け取ると思うこと。準備:ラボとブラウザー。agent.py は害のない身代わりで、鍵はどれもデモ用の値です。ヒント:囲いを 1 つ立てるたびに、エージェントのほかの手口のどれを止めないかをクラスに聞いてください。ラボ自体には、見えない値で run-agent.sh を採点するチェックがあります。自分のモジュールにコピーして変更するか、レッスンビルダーのラボメニューから一から作ってください。