AI用語集
ガードレール
ガードレールとは、モデル呼び出しの前後で望ましくない入力や出力を止める確認のことで、プロンプトで頼むだけでなくコードで強制します。
モデルの両側に置きます。入力側では長さ、話題、個人データを、出力側では形式、禁止された内容、そのツール呼び出しが許されるかを確認します。
簡単な例は許可リストです。アシスタントはこの三つのツールをこの引数の範囲でだけ呼べ、それ以外は実行前にコードが拒否します。
システムプロンプトに一文書いただけのガードレールは、願いにすぎません。本物のガードレールは、モデルが何と言おうと動くコードです。
手を動かして学ぶ
これらの無料レッスンでは、ラボで実行するコマンドと採点される課題で学べます。アカウントなしで全文を読めます。