OpenAI API — мощный инструмент, но его использование может привести к неожиданно высоким счетам, если не контролировать расходы. Особенно это касается сценариев с автоматическими агентами, которые могут генерировать множество API-вызовов. Разработчик Давид Гевирц (David Gewirtz) из ZDNET на собственном опыте убедился в такой опасности, когда ему приснился кошмар о сотнях агентов, накручивающих счёт. Чтобы этого не случилось наяву, он подготовил инструкцию по настройке лимитов.
Первая линия защиты — уровни использования (usage tiers). OpenAI автоматически ограничивает максимальный ежемесячный расход в зависимости от общей суммы, потраченной за всё время. Пока вы не потратили $50, вы находитесь в Tier 1 с лимитом $100 в месяц. После $50 — Tier 2 ($500/мес), после $100 — Tier 3 ($1000/мес), после $250 — Tier 4 ($5000/мес). Однако после $1000 общих трат открывается Tier 5 с лимитом до $200 000 в месяц. Это означает, что если ваш агент однажды выйдет из-под контроля, счёт может достичь астрономических сумм.
Чтобы этого избежать, Гевирц рекомендует установить жёсткий лимит на странице spending limits. По умолчанию OpenAI не применяет строгий лимит — он лишь предупреждает, что фактические расходы могут превысить заданный бюджет. Включив опцию Enforce Hard Limit, вы заставите API отклонять запросы с ошибкой 429, когда бюджет исчерпан. Важно, чтобы ваш код корректно обрабатывал эту ошибку. Также можно настроить автоматическое пополнение счёта (Auto Recharge) — его лучше отключить, чтобы не было неожиданных списаний.
Можно установить жесткий лимит, который отклоняет API-запросы с ошибкой 429 при превышении бюджета.
Дополнительный уровень контроля — оповещения о расходах (spend alerts). Они приходят по email, когда сумма трат достигает определённого процента от установленного лимита. Например, можно получать уведомление при 50%, 75% и 90% бюджета. Наконец, лимиты скорости (rate limits) ограничивают количество запросов в минуту, день и месяц для каждой модели. Они помогают предотвратить резкие скачки нагрузки и, соответственно, расходов. Комбинируя все эти инструменты, можно уверенно использовать OpenAI API без страха перед неожиданными счетами.
