Задержка — время от начала операции до появления результата. Для потокового ответа AI время до первого токена и полное время ответа показывают разные задержки для пользователя.
Задержка (latency)
Задержка — время от начала операции до появления результата. Для потокового ответа AI время до первого токена и полное время ответа показывают разные задержки для пользователя.