Inference tarkoittaa koulutetun mallin käyttöä ennusteen tai tulosteen tuottamiseen uudesta syötteestä. LLM-pyynnössä se käsittelee kehotteen ja tuottaa tokeneita.
Päättely (inference)
Inference tarkoittaa koulutetun mallin käyttöä ennusteen tai tulosteen tuottamiseen uudesta syötteestä. LLM-pyynnössä se käsittelee kehotteen ja tuottaa tokeneita.