クリーム色の背景、色付き表示、高コントラスト、大きな文字のほうが読みやすいですか?配色と文字を選ぶと、すべてのページに一度で反映されます。

AIの比較

ストリーミングと一括返答の違い

人が返答の表示を見ているときは、すぐ読み始められるようストリーミングし、コードが先に解析や確認をする必要があるときは返答全体を待ちます。

ストリーミングと一括返答の比較
観点ストリーミング一括返答
最初の言葉が出るまですぐ返答が全部できてから
全体の時間ほぼ同じほぼ同じ
コードでの扱いイベントをつなぎ、途中の文章を扱う一つの返答を解析する
表示前の確認難しい、文章はもう表示されている簡単

ストリーミングを選ぶとき

  • 人が書かれていく返答を読む
  • 返答が長い
  • 機能をきびきび感じさせたい

一括返答を選ぶとき

  • 返答がコード用のJSON
  • 誰かが見る前に確認や絞り込みが必要
  • 返答が短い

手を動かして学ぶ

これらの無料レッスンでは、ラボで実行するコマンドと採点される課題で学べます。アカウントなしで全文を読めます。

関連する用語

ストリーミング
ストリーミングとは、モデルの返答を生成しながら少しずつ送ることで、利用者は返答全体を待たずに最初の言葉をすぐ見られます。
レイテンシ
レイテンシとは、利用者が応答を待つ時間で、言語モデルでは最初のトークンまでの時間と全体の時間に分けて考えます。
構造化出力
構造化出力とは、自由な文章ではなく、名前付きの項目を持つJSONのような決まった形式で答えるよう言語モデルに求めることです。

← AI用語の一覧