Inference – išmokyto modelio naudojimas prognozei ar atsakymui pagal naują įvestį sukurti. LLM užklausoje tai apima prompto apdorojimą ir tokenų generavimą.
Išvedimas (inference)
Inference – išmokyto modelio naudojimas prognozei ar atsakymui pagal naują įvestį sukurti. LLM užklausoje tai apima prompto apdorojimą ir tokenų generavimą.