Контекстное окно — максимальный объём входа и генерируемого текста, который модель учитывает в одном запросе; его измеряют в токенах. Лимит зависит от модели.
Контекстное окно
Контекстное окно — максимальный объём входа и генерируемого текста, который модель учитывает в одном запросе; его измеряют в токенах. Лимит зависит от модели.