推論（インファレンス）

推論（インファレンス）は、学習済みモデルを使って新しい入力に対する予測や出力を生成する処理です。LLMへのリクエストでは、プロンプトの処理とトークンの生成が含まれます。