Платформа управления корпоративными расходами Ramp запустила собственный сервис маршрутизации ИИ-моделей под названием Router. Об этом компания объявила в среду вечером. Router представляет собой API, через который пользователи и компании могут обращаться к различным большим языковым моделям и переключаться между ними. По словам Ramp, компания использовала этот маршрутизатор для собственных нужд в области ИИ в течение последних трех лет.
Сервис доступен только на территории США. До конца 2026 года Router предоставляется бесплатно, однако пользователям придется оплачивать стоимость инференса моделей. При запуске Ramp предлагает кредит в размере $26. Компания не раскрыла, сколько будет стоить сервис в следующем году.
Router работает аналогично OpenRouter, но предлагает меньше моделей. В настоящее время Router обеспечивает доступ к моделям OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Сервис предоставляет несколько «стратегий» для маршрутизации запросов в зависимости от предпочтений пользователя. Например, одна стратегия позволяет установить приоритет для гибких тарифных уровней провайдеров, другая — выбирать модель на основе до трех заданных пользователем бенчмарков. Также можно направлять только сложные задачи на дорогие модели или легко тестировать модели без переключения. Пользователи получают панель мониторинга, где видят расход токенов, стоимость, задержку, попытки отката и другие детали.
Сервис доступен только в США, бесплатен до конца 2026 года, предусмотрен кредит $26 на старте.
Важной особенностью Router является политика хранения данных: по умолчанию сервис записывает входные и выходные данные, а также вызовы инструментов в течение года. Компания утверждает, что удаляет персональную информацию перед использованием этих данных для улучшения продукта. Однако пользователи могут отказаться от такого хранения.
Для Ramp выход на рынок маршрутизации ИИ-моделей открывает двойную возможность: с одной стороны, компания получает доступ к быстрорастущему рынку инференса ИИ, с другой — предлагает существующим клиентам сервис, который интегрируется с ее текущими продуктами, включая мониторинг использования токенов и управление расходами на токены. Если Router станет такой же привлекательной площадкой для тестирования моделей, как OpenRouter, Ramp сможет выстроить долгосрочные отношения с ИИ-лабораториями и провайдерами инференса по всему миру. Это может помочь компании, которая в июне привлекла $750 млн при оценке $44 млрд, получить новых клиентов и новые точки входа для продажи своих продуктов управления расходами.
