Лимиты и эксплуатация
Лимит скорости
Считается по ключу, а не по адресу, с которого пришёл запрос: клиенты ходят с серверов и из-за
NAT, и по адресу разные аккаунты слиплись бы в один лимит. Сверх предела —
HTTP 429; повторяйте запрос с нарастающей задержкой.
| Адрес | Запросов в минуту на ключ |
|---|---|
| /v1/chat/completions | 60 |
| /v1/decisions | 600 |
| /api/v1/jobs/createTask | 30 |
| /api/v1/jobs/recordInfo | 300 |
| /api/v1/jobs/recordInfos | 60 |
| /api/v1/files/upload | 20 |
У адресов Veo (/api/v1/veo/generate,
/api/v1/veo/record-info) своего предела частоты сейчас нет.
Одновременные задачи
Незавершённых задач на аккаунте — не больше 50. Постановка сверх этого
числа отвечает 429, пока часть задач не закончится.
Это базовые лимиты — и по запросам в минуту, и по одновременным задачам. Если вашей программе нужно больше, напишите на hi@gen202.com: лимит расширяется по запросу.
Сбой у поставщика
Модель вызывается у нескольких поставщиков по очереди. Если у текущего задача сорвалась, шлюз отправляет её следующему из списка этой модели; номер у прежнего забывается, удержание не меняется, и отказ клиент получает только после последнего поставщика. По вопросам работы — hi@gen202.com или бот @gen202_bot.
Сроки
- Задача идёт, пока модель не пришлёт результат или отказ.
- Ссылка на готовый файл живёт 14 дней — столько его хранит поставщик.
Размер запроса
Тело запроса — не больше 512 КиБ. Больше шлюз не разбирает и отвечает
413. Файл на загрузку считается отдельно: его предел —
100 МиБ (Загрузка своих файлов).
У адреса моделей решений /v1/decisions предел тела —
20 МиБ: картинки идут в нём строкой base64
(Модели решений).
Журнал вызовов
Каждый вызов виден в кабинете: модель, адрес, статус, кредиты и длительность. Те же данные по ключу отдают адреса раздела Баланс и расход.