模型推論（Inference）

推論是使用訓練完成的模型，根據新輸入產生預測或輸出的過程。對 LLM 請求而言，包含處理 prompt 和產生 token。