Viivitus on aeg toimingu algusest kuni tulemuse valmimiseni. Voogedastatava AI-vastuse puhul näitavad esimese tokeni aeg ja koguaeg kasutajale eri viivitusi.
Viivitus (latency)
Viivitus on aeg toimingu algusest kuni tulemuse valmimiseni. Voogedastatava AI-vastuse puhul näitavad esimese tokeni aeg ja koguaeg kasutajale eri viivitusi.