Где ИИ окупается, а где сжигает бюджет: практический разбор

Консультанты практики Зинин × Штурбин описывают типичную картину: команда приходит с запросом «хотим ИИ», имея в виду нечто среднее между волшебной кнопкой и аналитиком на ставке. После нескольких часов разговора выясняется, что ожидания и реальная механика расходятся кардинально. Это происходит системно — и причина в том, что мало кто понимает, как языковые модели устроены изнутри.

Современные LLM построены на архитектуре трансформера: каждое слово превращается в вектор в многомерном пространстве, смысловая близость слов — это геометрическая близость векторов. Ключевой механизм — self-attention: на каждом шаге генерации модель вычисляет, насколько каждый токен в контексте значим для текущего. Именно поэтому GPT-4 корректно определяет, к какому существительному относится местоимение в длинном абзаце. Обучение — это подгонка от 7 до 70 миллиардов числовых параметров на данных из интернета, книг и кода. После предобучения следует этап RLHF — обучение с подкреплением по обратной связи от людей, который формирует «послушность» и стиль ответов.

Эффект возникает там, где одновременно выполняются три условия: высокий объём однотипных задач, структурированный вход и допустимая погрешность. Из практики: служба поддержки с тысячами входящих сообщений в день — модель классифицирует их по категориям и приоритетам за миллисекунды, погрешность в 5–7% уходит на ручную проверку краевых случаев. Юридический отдел сократил цикл подготовки типового договора в три раза: шаблон плюс ИИ-заполнение из CRM-данных дают черновик за 20 секунд, юрист правит ещё 10 минут. RAG-архитектура (Retrieval-Augmented Generation) решает проблему корпоративного поиска: база знаний индексируется в векторное хранилище, запрос сотрудника превращается в вектор, система находит релевантные фрагменты и передаёт их в контекст модели — ответ приходит со ссылкой на источник.

Однако существуют три устойчивых сценария, при которых бюджет уходит впустую. Первый — автоматизация хаоса: если исходный процесс размыт, языковая модель его усиливает, а не упорядочивает. Второй — высокие ставки без верификации: медицинские заключения, юридические решения, финансовые прогнозы требуют слоя проверки человеком или формальными правилами, поскольку вероятность галлюцинации у модели всегда выше нуля. Третий — переплата за сложность: GPT-4o избыточен для задачи «извлечь дату из PDF», с которой справится 7B-модель, развёрнутая локально через Ollama или Groq API, — в 10 раз дешевле. По наблюдениям практики, 80% запросов в типичном проекте решались бы более дешёвой моделью, но точность под конкретную задачу заранее измеряют единицы.

Минимально жизнеспособный контур внедрения включает пять шагов. Сначала — аудит процесса: зафиксировать входные данные, выходной результат, объём, частоту, ответственного за решение. Затем — базовый benchmark на 100–200 реальных примерах с измерением точности и сравнением с человеческим бейзлайном. Далее — выбор архитектуры: прямой вызов API, RAG, файн-тюнинг или агентная цепочка — каждый вариант оправдан в своих условиях. Первая версия должна охватывать один узкий процесс; расширять охват стоит только после измеренного эффекта. Наконец, мониторинг с первого дня: языковые модели деградируют при смене входных данных (data drift) или при обновлении модели провайдером, поэтому логирование запросов и ответов обязательно.

Алексей Штурбин, соавтор практики, формулирует критерий успеха так: хорошая ИИ-система становится скучной через месяц после запуска — работает предсказуемо, результат воспроизводим, команда перестала о ней думать. Самые быстрые результаты — там, где уже есть структурированные данные и понятный критерий оценки: служба поддержки с историей тикетов, юридический отдел с архивом договоров, HR с базой описаний вакансий. Первый эксперимент в таких условиях занимает две-три недели.