«Диасофт» сообщил о добавлении «ИИ-Шлюза» в MLOps-платформу, которая входит в состав решения «Фабрика данных» (Digital Q.DataFactory). Инструмент позиционируется как единая точка входа для безопасного и эффективного вызова ИИ-моделей. Обновление призвано решить проблемы, с которыми компании сталкиваются при внедрении ИИ: риски утечки данных, неконтролируемые затраты, разрозненность ИТ-ландшафта и зависимость от иностранного ПО.
«ИИ-Шлюз» реализует сквозную защиту данных на уровне инференса по принципу Zero-Trust ИИ. Система автоматически перехватывает запросы, маскирует конфиденциальные данные (PII) до их отправки к внешним LLM-провайдерам и демаскирует ответы при возврате клиенту. Это позволяет использовать облачные большие языковые модели, не раскрывая чувствительную информацию. Как пояснил Илья Шуйков, руководитель продукта «Фабрика данных», «данные больше не уходят в большие языковые модели в облаке в открытом виде».
Помимо защиты, шлюз обеспечивает интеллектуальную маршрутизацию запросов: распределение вызовов происходит не только на основе стоимости или типа задачи, но и с учетом реальной доступности вычислительных ресурсов. При сбоях предусмотрен автоматический откат на альтернативные модели. Также реализованы семантическое кеширование, которое распознает смысловые дубликаты запросов и возвращает ранее сгенерированные ответы, экономя бюджет, и полный контроль затрат за счет экспорта метрик (запрос-ответ, токены, latency) с возможностью настройки лимитов TPM/RPM и квот.
Управление доступом интегрировано с Digital Q.Security: поддерживаются аутентификация по SSO и управление ключами, а также контентная фильтрация через Guardrails ИИ. Для разработчиков предоставляется унифицированный OpenAI-совместимый API, позволяющий работать с любыми локальными и внешними провайдерами, включая «ГигаЧат» и российский агрегатор Routerai.ru. Это упрощает интеграцию и снижает зависимость от конкретного поставщика.
MLOps-платформа, частью которой стал «ИИ-Шлюз», предназначена для объединения разрозненных данных в единое хранилище, аналитики, автоматизации подготовки признаков ML-моделей и машинного обучения предиктивных моделей. Решение «Фабрика данных» включено в реестр российского программного обеспечения (запись №34110), что подтверждает его соответствие требованиям для использования в госсекторе и госкомпаниях.
Появление подобных инструментов отражает общий тренд на корпоративное регулирование использования ИИ. Компании стремятся избежать хаотичного применения нейросетей сотрудниками, которое создает риски утечек и неконтролируемых расходов. «ИИ-Шлюз» превращает этот процесс в управляемый, с централизованной политикой безопасности и финансового контроля.
