VK разработал нейропрофиль пользователя — единую трансформерную модель, которая формирует целостное представление об интересах человека на основе его действий в разных сервисах экосистемы. Руководитель группы рекомендательных технологий ИИ VK Михаил Трапезников в статье на Habr рассказал, как устроена архитектура и почему кросс-доменный подход помогает улучшать рекомендации в VK Видео, VK Клипах и других продуктах.
Классические рекомендательные системы часто рассматривают каждый сервис по отдельности: лайки в ленте, просмотры в Клипах, длинные видео — как независимые сигналы. Нейропрофиль объединяет их в единую последовательность событий, которую анализирует трансформер. Модель учитывает не только отдельные действия, но и взаимосвязи между ними, что позволяет точнее предсказывать, какой контент будет релевантен пользователю в конкретный момент.
Архитектура решения — двухбашенная. Башня пользователя (User Tower) обрабатывает последовательность действий с учётом их порядка и контекста, используя механизм self-attention. На выходе формируется динамический эмбеддинг, отражающий как долгосрочные интересы, так и текущий интент. Башня объекта (Item Tower) кодирует контент — видео, клипы, посты — на основе тематики, жанра и других статичных свойств. Система сравнивает представления пользователя и контента, вычисляя степень соответствия, и этот сигнал используется рекомендательными алгоритмами.
Для обучения модели история действий преобразуется в последовательность токенов, каждый из которых объединяет три типа признаков: контентное представление (векторы из мультимодальной контентной модели), векторы событий (тип взаимодействия: лайк, репост, глубина просмотра, негативные сигналы) и признаки источника (автор контента). Особую роль играет время: для его кодирования используется подход Time2Vec, который учитывает абсолютное время события, относительное время сессии и интервальное время между действиями. Это помогает модели понимать фазу сессии и динамику утомляемости пользователя.
Главное отличие от альтернативных индустриальных подходов — архитектурная лаконичность. Вместо сложной многоэтапной схемы последовательного предсказания микроповедения (что посмотрит, где поставит лайк) VK использует классический трансформер, но с глубокой интеграцией в Discovery-платформу. Это позволяет разворачивать технологию на десятки продуктов экосистемы без перестройки их внутренних пайплайнов. По словам Трапезникова, такой подход кратно ускоряет внедрение и снижает затраты на поддержку локальных ML-пайплайнов.
Нейропрофиль уже используется в рекомендательных системах VK, но детали о его влиянии на метрики (например, время просмотра или удержание) в статье не раскрываются. Остаётся открытым вопрос, насколько значимо улучшение качества рекомендаций по сравнению с предыдущими методами. Тем не менее, сам подход — объединение сигналов из разных сервисов в единую модель — выглядит логичным шагом для крупных экосистем, где пользователи взаимодействуют с контентом в разных форматах.
