Компания «Синтека», разработчик софта для строительной отрасли, столкнулась с типичной для многих организаций проблемой: каждый отдел самостоятельно покупал подписки на OpenAI, Anthropic и DeepSeek, что приводило к хаосу в управлении учетными записями и лимитами. Системный администратор Владимир Мокроусов рассказал, как компания решила перейти на единый шлюз на базе LiteLLM и какие подводные камни обнаружила на этом пути.
LiteLLM — это open-source маршрутизатор, который позволяет централизованно управлять доступом к различным ИИ-моделям. В «Синтеке» через него делят пользователей на группы, выдают сотрудникам единый API-ключ и отслеживают логи. Если возникают ошибки или заканчиваются лимиты, администраторы могут быстро найти причину. Однако при подключении провайдеров выяснилось, что схема доступа зависит от типа подписки: для подписок с OAuth требуется дополнительная прослойка CLIProxyAPI, которая агрегирует несколько учетных записей и следит за их лимитами. При этом оказалось, что по подписке можно подключить только модели Anthropic, а для OpenAI многие инструменты доступны лишь по API-токенам.
| Провайдер | Способ доступа | Особенности |
|---|---|---|
| Anthropic | Подписка/OAuth через CLIProxyAPI | Возможно подключение по подписке, но есть скрытые лимиты |
| OpenAI | API-ключ напрямую | Многие инструменты доступны только по токенам, подписка ограничена |
Первая проблема, с которой столкнулась компания, — неочевидные лимиты у Anthropic. Подписка на Claude казалась удобной для прогнозирования бюджета, но на практике расходы зависят от множества факторов: выбранной модели, длины контекста, используемых инструментов и текущей нагрузки. Когда сотрудник активно работал с Opus 5, пришло уведомление об исчерпании Extra Usage — отдельной платной квоты, которая расходуется независимо от основных лимитов. Кроме того, для новой модели Fable 5 появился собственный лимит, и его исчерпание не блокирует доступ к другим моделям. Мокроусов подчеркивает, что для организационного использования надежнее выбирать официальный API или корпоративный договор, а не объединять личные подписки.
Для подключения подписок OpenAI и Anthropic потребовалась дополнительная прослойка CLIProxyAPI, так как не все инструменты OpenAI работают по подписке.
Вторая проблема — блокировки учетных записей. У OpenAI несколько учеток, оплаченных одной картой, привели к блокировке аккаунта, хотя в настоящее время три учетные записи работают нормально. У Anthropic ситуация оказалась хуже: две личные учетки, подключенные к одному CLIProxyAPI, были заблокированы одна за другой без объяснения причин. Администратор предполагает, что Anthropic мог обращать внимание на возраст Gmail-аккаунта, но это лишь гипотеза. Запросы шли с одного IP, геолокация совпадала, поэтому очевидных причин для блокировки не было. В итоге компания держит минимум две рабочие учетки Anthropic, чтобы блокировка одной не оставила сотрудников без доступа.
Третья проблема возникла при добавлении новых моделей Claude — Sonnet 5, Opus 5 и Fable 5. Оказалось, что релиз модели не гарантирует поддержку в текущей версии LiteLLM. Пришлось обновить образ и переписать маршрут для Anthropic, после чего модели заработали. Этот случай иллюстрирует, что при использовании open-source инструментов необходимо следить за обновлениями и быть готовым к ручной настройке.
Опыт «Синтеки» показывает, что переход на единый шлюз решает задачи контроля и упрощения доступа, но требует внимания к деталям: скрытым лимитам, политике блокировок и совместимости с новыми моделями. Для компаний, планирующих аналогичное внедрение, полезно учитывать эти нюансы и заранее предусматривать резервные каналы доступа.
