inference คือกระบวนการใช้โมเดลที่ฝึกแล้วสร้างการคาดการณ์หรือเอาต์พุตจากอินพุตใหม่ สำหรับคำขอ LLM จะรวมการประมวลผล prompt และการสร้าง token
การอนุมานของโมเดล (Inference)
inference คือกระบวนการใช้โมเดลที่ฝึกแล้วสร้างการคาดการณ์หรือเอาต์พุตจากอินพุตใหม่ สำหรับคำขอ LLM จะรวมการประมวลผล prompt และการสร้าง token