他人のコードがあなたとして動く
信頼できないコードとは、書いた人を保証できないプログラムのことです。AI エージェントが書いたスクリプト、お客さんがアップロードしたファイル、学生の宿題などです。動かすと、それを起動したアカウントの力をすべて受け取ります。
コードを書いて動かすことを繰り返すエージェントは、誰かがコードを読む前に鍵を読めてしまいます。今日は自分のラボのマシンで、身代わりのプログラムがまさにそうするのを見ます。
このレッスンのゴール
メモ
信頼できないコードが、それを動かすマシンで何に届くかを挙げられる。
キーワード
| ことば | いみ | れい |
|---|---|---|
| 信頼できないコード | 書いた人を保証できないプログラム | |
| サンドボックス | プログラムが届く範囲を限る囲い | |
| 秘密 | 鍵のように、外に出してはいけないデータ | |
| 枯渇 | メモリー、プロセス、CPU 時間を使い切ること | |
| 脱出 | サンドボックスを破って、マシンそのものに届くこと | |
| ケーパビリティ | root の力を小さく分けた1つ。単独で持てる | cap_chown |
学生が入力するセルは、このプレビューでは空白です。
信頼できないコードにできる4つのこと
セキュリティの担当者は、害を4種類に分けます。1つ目は秘密を読むことで、鍵、トークン、他人のファイルが対象です。2つ目は外に通信することで、読んだものをネットワークで送り出します。
3つ目は資源の枯渇で、メモリーを使い切る、プロセスを作れなくなるまで増やす、CPU を回し続けるといったものです。4つ目は脱出で、カーネルの機能を使って囲いの外のマシンに届こうとします。サンドボックスは4つすべてに答える必要があります。
ラボのフォルダーに移る
cd ~/labここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
エージェントに鍵を読ませる
python3 agent/agent.py secretここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
エージェントに外へ通信させる
python3 agent/agent.py callここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
断られたことは安全の証拠ではない
Connection refused は、接続がこのマシンまで届き、ポート 9 で待っているものがなかったという意味です。ネットワークは使えました。もしサーバーが待っていたら、鍵は送られていたはずです。
ネットワークのないサンドボックスでは、別の答えが返ります。それは次のレッスンで見ます。ここでは3つ目の害を見ましょう。エージェントがプロセスを 30 個起動し、何もそれを止めません。
エージェントにプロセスを起動させる
python3 agent/agent.py spawn 30ここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
試そう: 届いたものを一覧にする
# 何の囲いもないとき、エージェントが届いたもの。
reached = {"secrets": True, "network": True, "processes": True, "kernel calls": True}
def threats(reached):
found = []
for name in reached:
if reached[name]:
found.append(name)
return found
print("エージェントが届くもの:", threats(reached))
# ネットワークのないサンドボックスのつもりで、"network" を False にして、もう一度動かしましょう。
よくある間違い
注意
先にコードを読めば、動かしても安全だと考える人は多いです。そうではありません。エージェントは人が読むより速くコードを書き、害のある1行は普通の行に紛れます。読み落としても大きな害にならないよう、コードを囲いに入れます。
プロセスは自分の力を持ち歩く
カーネルは、プロセスごとに記録を持っています。ファイル /proc/self/status を読むと、読んだプロセス自身の記録が出ます。Uid は動いているユーザーです。CapEff は16進数で、各ビットがいま使えるケーパビリティ、つまり root の力のかけらを表します。
NoNewPrivs は、これから力を増やせるかどうかを示します。Seccomp は、システムコールを絞るフィルターがあるかどうかで、0 はなし、2 はフィルターありです。
自分のシェルが持つものを読む
grep -E '^(Uid|CapEff|NoNewPrivs|Seccomp):' /proc/self/statusここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
root が持つものを読む
sudo grep -E '^(Uid|CapEff):' /proc/self/statusここでは表示のみで、実行されません。「ラボを開始」を押すと、自分のラボのターミナルに入力できます。
例: 2つのステータスの記録
| 行 | student のとき | root のとき | 意味 |
|---|---|---|---|
| Uid | 自分の番号 | 0 | プロセスを動かしているユーザー |
| CapEff | 0000000000000000 | 000001ffffffffff | ケーパビリティなし、次にすべて |
| NoNewPrivs | 0 | 0 | sudo などで、まだ力を増やせる |
| Seccomp | 0 | 0 | システムコールにフィルターなし |
学生が入力するセルは、このプレビューでは空白です。