文章を書くAIはどうやって答えているのか
文章を書くAIの正体は、言語モデルです。言語モデルは、ここまでの言葉のあとに、どの言葉が来やすいかを計算して、1語ずつ文章を作ります。
このしくみがわかると、AIが得意なことと、苦手なことが見えてきます。AIを使うときの注意も、そこから出てきます。
このレッスンのゴール
メモ
AIが得意なことと苦手なことを、しくみから説明し、使うときの注意を挙げられる。
キーワード
| ことば | いみ |
|---|---|
| 言語モデル | 言葉の並びから、次に来やすい言葉を予想するしくみ |
| 生成AI | 文章や画像を新しく作る、人工知能（AI） |
| 学習データ | AIが学ぶために読んだ、たくさんの例 |
| ハルシネーション | AIが、もっともらしいが事実ではない答えを作ること |
| 公平 | 人によって、不当に扱いが変わらないこと |
| 人間の確認 | 大事な判断を、AIにまかせきりにしないで、人が確かめること |
学生が入力するセルは、このプレビューでは空白です。
始める前に
メモ
上のバーの Start the lab を押してください。起動に1分ほどかかります。ラボの短い文章は英語で、the は「その」にあたる、とてもよく出る語です。大切なのは、数え方です。
次の語を予想するとはどういうことか
「今日は」のあとには、「晴れ」「雨」「いい天気」が来そうです。「今日は冷蔵庫」とは、ふつうは続きません。
もっとも単純な言語モデルは、読んだ文章で、ある語のあとに何が何回続いたかを数えます。多かった語ほど、次に来やすいと予想します。
例: 短い文章で、「は」のあとを数える
| 文章 | 「は」のあとの語 |
|---|---|
| 今日は晴れです。 | 晴れ |
| 今日は雨です。 | 雨 |
| 明日は晴れです。 | 晴れ |
| 数え方 | 晴れ 2回、雨 1回 |
| 来やすさ | 晴れ 2÷3、約0.67、雨 1÷3、約0.33 |
学生が入力するセルは、このプレビューでは空白です。
「the」のあとに続いた語を数える
docker exec jupyter python3 steps/bigram.pyここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。
数字は割合として読む
この文章では the が9回出ます。そのうち、shop が続いたのが3回で、割合は 0.33 です。desk が2回で 0.22 です。
この割合が、そのまま「来やすさ」です。本物の言語モデルは、数え方がずっと複雑で、文章の量も桁違いに多いですが、考え方は同じです。
数えた割合で、新しい文を作る
docker exec jupyter python3 steps/generate.pyここでは表示のみで、実行されません。無料アカウントを作成すると、実行ボタンで自分のラボのターミナルに入力できます。
なぜAIは、もっともらしい間違いを言うのか
上の Run は、数えた割合で、1語ずつ文を作りました。文の形に見えても、意味が通らないものが混ざります。
言語モデルは、事実を調べているのではありません。続きやすい言葉を選んでいるだけです。だから、自信のある口調で、存在しない本や数字を作ることがあります。
AIが得意なことと苦手なこと
| 得意なこと | 苦手なこと |
|---|---|
| 文章の下書きや、言い回しの案を出す | 事実や数字を、いつも正確に言う |
| 長い文章を、短くまとめる | 自分の答えが間違っているのに気づく |
| 翻訳や、プログラムの案を出す | 最新の出来事や、あなたの周りのことを知る |
学生が入力するセルは、このプレビューでは空白です。
AIの判断は公平か
AIは、学習データの傾向を学びます。過去の採用のデータで学んだAIが、過去に選ばれなかった人を、これからも選ばないことがあります。
AIが悪いというより、データに入っていた偏りを、そのまま引きついでしまうのです。人の生活に大きく関わる判断は、人が確かめるべきです。
データ保護の法律は何を求めているか
多くの国のデータ保護の法律は、会社が、何のデータを何のために使うかを、あなたに知らせることを求めています。
自分のデータを見たい、直したい、消したいと頼める国も多いです。AIだけで大きな決定をする場合に、人の確認や説明を求める決まりもあります。国によって違うので、使う国の決まりを確かめましょう。
よくある間違い
注意
AIは意味を理解していて、いつも正しいと考える人がよくいます。AIは続きやすい言葉を選んでいるだけで、事実を確かめてはいません。大事なことは、AIの答えを、本や公式の資料で確かめましょう。
さらに挑戦: 自分で使うときの約束
学校の課題に、AIを使ってよい場面と、いけない場面は、どこで分かれるでしょうか。自分で3つの約束を書いてみましょう。
例: 答えの根拠を、本で確かめる。自分や友だちの個人データを、入力しない。使ったことを、先生に言う。