クリーム色の背景、色付き表示、高コントラスト、大きな文字のほうが読みやすいですか?配色と文字を選ぶと、すべてのページに一度で反映されます。

無料モジュール

言語モデルの推論の仕組み: CPU で確かめる

LLM 推論の仕組みを手を動かして学びます。プリフィルとデコード、KV キャッシュ、連続バッチ処理、投機的デコード、int8 量子化、レイテンシの測り方を、CPU で動く小さなモデルで確かめる講座です。

6件のレッスン360分のレッスンAI とデータサイエンス

本物のラボで実習

このモジュールのレッスンは、あなた専用に起動するラボで実習します。使うラボ:

授業で使いますか?このモジュールを学生に割り当てると、教員用ガイド、自動採点つきの課題、学生ごとのラボを使えます。