レイテンシ

レイテンシは、処理の開始から結果が利用可能になるまでの経過時間です。AIのストリーミング出力では、最初のトークンが届くまでの時間と応答全体にかかる時間は、ユーザーが感じる別々の遅延を表します。