AIのかたより
AIのかたよりとは、プログラムが、ある人たちを、ほかの人たちより不公平に扱うことです。ある映画館が、週末のアルバイトの面接に呼ぶ人を、AIのツールで選びました。
20人が応募しました。選ばれた人は、ほとんどが駅の東側に住んでいました。だれもそうしろとは言っていません。なぜ、そうなったのでしょうか。
このレッスンのゴール
メモ
AIの結果が不公平かもしれないときに、気づくことができる。
キーワード
| ことば | いみ |
|---|---|
| かたより（バイアス） | ある人たちを不公平に扱う傾き |
| 公平 | 同じような人を、同じように扱うこと |
| グループ | 何かが共通している人たち |
| 学習データ | AIが学んだ例 |
| 候補者 | 次の段階に進むよう選ばれた人 |
学生が入力するセルは、このプレビューでは空白です。
不公平な例から不公平な結果が出る
映画館のツールは、前に働いていた人たちから学びました。その多くは、駅の東側に住んでいました。前のバスの路線が、東側から来ていたからです。
だからツールは、「東側に住んでいる」ことを、よい働き手の一部として学びました。これがかたよりです。学習データがかたよっていたので、結果もかたよります。
グループを比べて気づく
かたよりは、かんたんな数え方で見つかることがよくあります。人をグループに分け、それぞれのグループがどのくらいの割合で選ばれたかを比べます。
2つのグループが同じように応募したのに、片方だけがずっと多く選ばれていたら、なぜかを問いましょう。
例: 映画館の候補者
| グループ | 応募 | 選ばれた | 10人中 | 割合 |
|---|---|---|---|---|
| 東側 | 10 | 6 | 10人中6人 | 60% |
| 西側 | 10 | 2 | 10人中2人 | 20% |
| 差 | 10人中4人 | 40% |
学生が入力するセルは、このプレビューでは空白です。
選ばれた人を数える
# 1人は [グループ, 選ばれたか] です。True は選ばれたという意味です。
people = [
["東", True], ["東", True], ["東", False], ["東", True],
["西", False], ["西", True], ["西", False], ["西", False],
]
applied = {}
picked = {}
for person in people:
group = person[0]
if group not in applied:
applied[group] = 0
picked[group] = 0
applied[group] = applied[group] + 1
if person[1]:
picked[group] = picked[group] + 1
for group in applied:
print(group + "：" + str(applied[group]) + "人中" + str(picked[group]) + "人")
数を差に直す
# 上の Run の、グループごとの選ばれた人数と応募の人数。
east_picked = 3
east_applied = 4
west_picked = 1
west_applied = 4
east_rate = round(east_picked * 100 / east_applied)
west_rate = round(west_picked * 100 / west_applied)
print("東：" + str(east_rate) + "%")
print("西：" + str(west_rate) + "%")
print("差：" + str(east_rate - west_rate) + "%")
結果が不公平に見えたらすること
気づいたことを、数字と一緒に伝えます。変えられる人に知らせます。先生、店長、アプリの報告ボタンなどです。人が判断を確かめるよう頼みます。
自分の使い方も確かめましょう。AIに人の絵や話を頼んだら、だれが出てきて、だれがいないかを見ます。
例: だれに知らせるか
| 見た場所 | 知らせる人 |
|---|---|
| 学校のアプリ | 先生 |
| アルバイト先のツール | 店長 |
| スマホのアプリ | アプリの報告ボタンか、信頼できる大人 |
学生が入力するセルは、このプレビューでは空白です。
よくある間違い
注意
コンピュータはデータにしたがうだけだから不公平にならない、と考える人が多いです。そこが問題です。データがかたよっていれば結果もかたよるので、数字を確かめる必要があります。
さらに挑戦: だれの絵か
絵を作るツールに「科学者」や「看護師」を頼んだとします。いつも同じような人ばかりが出てくるなら、それは例のかたよりです。
そのようなツールを作った人たちに聞きたいことを、2つ書きましょう。