Suy luận là quá trình dùng mô hình đã được huấn luyện để tạo dự đoán hoặc đầu ra từ dữ liệu đầu vào mới. Với yêu cầu LLM, quá trình này bao gồm xử lý prompt và tạo token.
Suy luận
Suy luận là quá trình dùng mô hình đã được huấn luyện để tạo dự đoán hoặc đầu ra từ dữ liệu đầu vào mới. Với yêu cầu LLM, quá trình này bao gồm xử lý prompt và tạo token.