AI अनुमान-प्रक्रिया

इन्फ़रेंस वह प्रक्रिया है जिसमें प्रशिक्षित मॉडल नए इनपुट के लिए अनुमान या आउटपुट देता है। LLM अनुरोध में इसमें prompt को संसाधित करना और टोकन जनरेट करना शामिल है।