AI用語集
オブザーバビリティ
AI機能のオブザーバビリティとは、モデル呼び出しごとにプロンプト、設定、トークン数、時間、結果を記録し、何がなぜ起きたかを見られるようにすることです。
トレースは一つのリクエストを、検索、各モデル呼び出し、各ツール呼び出しと、すべての手順にわたって追います。どこが遅く、どこが高く、どこで答えがずれたかが分かります。
役に立つ項目は、モデルとプロンプトの版、トークン数、レイテンシ、費用、エラー、利用者のフィードバックへのリンクです。
プロンプトのログには個人データが含まれることがあります。保存前に伏せ、必要な期間だけ残し、読める人を限ります。