クリーム色の背景、色付き表示、高コントラスト、大きな文字のほうが読みやすいですか?配色と文字を選ぶと、すべてのページに一度で反映されます。

無料レッスン

信頼できないコードにできること

このレッスンのあとで: 信頼できないコードが、それを動かすマシンで何に届くかを挙げられる。

60分のレッスンコマンド6件サンドボックスのラボ:信頼できないコードを、名前空間、cgroups、seccomp、gVisor の中で 1 台の専用 Ubuntu VM で動かす

他人のコードがあなたとして動く

信頼できないコードとは、書いた人を保証できないプログラムのことです。AI エージェントが書いたスクリプト、お客さんがアップロードしたファイル、学生の宿題などです。動かすと、それを起動したアカウントの力をすべて受け取ります。

コードを書いて動かすことを繰り返すエージェントは、誰かがコードを読む前に鍵を読めてしまいます。今日は自分のラボのマシンで、身代わりのプログラムがまさにそうするのを見ます。

このレッスンのゴール

メモ

信頼できないコードが、それを動かすマシンで何に届くかを挙げられる。

キーワード

ことばいみれい
信頼できないコード書いた人を保証できないプログラム
サンドボックスプログラムが届く範囲を限る囲い
秘密鍵のように、外に出してはいけないデータ
枯渇メモリー、プロセス、CPU 時間を使い切ること
脱出サンドボックスを破って、マシンそのものに届くこと
ケーパビリティroot の力を小さく分けた1つ。単独で持てるcap_chown

学生が入力するセルは、このプレビューでは空白です。

信頼できないコードにできる4つのこと

セキュリティの担当者は、害を4種類に分けます。1つ目は秘密を読むことで、鍵、トークン、他人のファイルが対象です。2つ目は外に通信することで、読んだものをネットワークで送り出します。

3つ目は資源の枯渇で、メモリーを使い切る、プロセスを作れなくなるまで増やす、CPU を回し続けるといったものです。4つ目は脱出で、カーネルの機能を使って囲いの外のマシンに届こうとします。サンドボックスは4つすべてに答える必要があります。

ラボのフォルダーに移る

コマンド
cd ~/lab

ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。

エージェントに鍵を読ませる

コマンド
python3 agent/agent.py secret

ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。

エージェントに外へ通信させる

コマンド
python3 agent/agent.py call

ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。

断られたことは安全の証拠ではない

Connection refused は、接続がこのマシンまで届き、ポート 9 で待っているものがなかったという意味です。ネットワークは使えました。もしサーバーが待っていたら、鍵は送られていたはずです。

ネットワークのないサンドボックスでは、別の答えが返ります。それは次のレッスンで見ます。ここでは3つ目の害を見ましょう。エージェントがプロセスを 30 個起動し、何もそれを止めません。

エージェントにプロセスを起動させる

コマンド
python3 agent/agent.py spawn 30

ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。

試そう: 届いたものを一覧にする

コード: python
# 何の囲いもないとき、エージェントが届いたもの。
reached = {"secrets": True, "network": True, "processes": True, "kernel calls": True}

def threats(reached):
    found = []
    for name in reached:
        if reached[name]:
            found.append(name)
    return found

print("エージェントが届くもの:", threats(reached))
# ネットワークのないサンドボックスのつもりで、"network" を False にして、もう一度動かしましょう。

よくある間違い

注意

先にコードを読めば、動かしても安全だと考える人は多いです。そうではありません。エージェントは人が読むより速くコードを書き、害のある1行は普通の行に紛れます。読み落としても大きな害にならないよう、コードを囲いに入れます。

プロセスは自分の力を持ち歩く

カーネルは、プロセスごとに記録を持っています。ファイル /proc/self/status を読むと、読んだプロセス自身の記録が出ます。Uid は動いているユーザーです。CapEff は16進数で、各ビットがいま使えるケーパビリティ、つまり root の力のかけらを表します。

NoNewPrivs は、これから力を増やせるかどうかを示します。Seccomp は、システムコールを絞るフィルターがあるかどうかで、0 はなし、2 はフィルターありです。

自分のシェルが持つものを読む

コマンド
grep -E '^(Uid|CapEff|NoNewPrivs|Seccomp):' /proc/self/status

ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。

root が持つものを読む

コマンド
sudo grep -E '^(Uid|CapEff):' /proc/self/status

ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。

例: 2つのステータスの記録

行student のときroot のとき意味
Uid自分の番号0プロセスを動かしているユーザー
CapEff0000000000000000000001ffffffffffケーパビリティなし、次にすべて
NoNewPrivs00sudo などで、まだ力を増やせる
Seccomp00システムコールにフィルターなし

学生が入力するセルは、このプレビューでは空白です。

このラボとソースについて: サンドボックスのラボ:信頼できないコードを、名前空間、cgroups、seccomp、gVisor の中で 1 台の専用 Ubuntu VM で動かす

授業で使いますか?このモジュールを学生に割り当てると、教員用ガイド、自動採点つきの課題、学生ごとのラボを使えます。