Лимиты и повторные запросы
Лимита на число запросов в минуту нет — ограничено число запросов, которые аккаунт выполняет одновременно.
Параллельные запросы
Запросы веб-чата учитываются в том же лимите. Если лимит превышен, запрос сразу получает 429 с кодом rate_limit_exceeded и заголовком Retry-After. Для больших нагрузок напишите в поддержку.
Повтор при 429 и 5xx
Повторите запрос через время из Retry-After (в секундах), при повторных отказах — с экспоненциальной задержкой. Ответы 502 и 503 тоже временные: запрос не выполнен и не тарифицируется.
Безопасный повтор: Idempotency-Key
Чтобы повтор не привёл к двойному списанию, передайте заголовок Idempotency-Key с уникальным значением. Повтор с тем же ключом и тем же телом в течение 24 часов вернёт сохранённый ответ без нового списания (ответ на потоковый запрос — одним JSON). Пока первый запрос выполняется, повтор получает 409; тот же ключ с другим телом — 422. Заголовок поддерживают все POST-эндпоинты, кроме /audio/speech.
curl https://infergate.ru/api/v1/chat/completions \
-H "Authorization: Bearer sk-..." \
-H "Idempotency-Key: 7b1e4c52-order-1042" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-4o-mini", "messages": [{"role": "user", "content": "Hello!"}]}'Размер запроса
Тело запроса — до 16 МБ, аудиофайл для распознавания речи — до 25 МБ. Больше — 413.