VK объединила рекомендации своих сервисов с помощью единого нейропрофиля

Команда разработки искусственного интеллекта VK представила единый нейропрофиль пользователя — технологию, объединяющую поведение человека в разных сервисах экосистемы для формирования сквозных персональных рекомендаций.

Как устроена архитектура

В основу системы легла двухбашенная трансформерная архитектура:

• Башня пользователя (User Tower): с помощью механизма self-attention обрабатывает до 1024 последних действий пользователя в единую последовательность, формируя динамический вектор его текущих интересов.
• Башня контента (Item Tower): кодирует характеристики роликов, постов и клипов, используя мультимодальные семантические эмбеддинги.

Каждое событие внутри истории преобразуется в информативный токен. Он учитывает вектор контента, тип действия (лайк, репост, досмотр или пропуск), автора публикации, а также временные факторы через подход Time2Vec (абсолютное время, динамику текущей сессии и скорость переключения между объектами).

Двухэтапное обучение и причинно-следственные сессии

Чтобы избежать смещения в сторону чрезмерно популярного контента и шума, обучение разделили на два шага:

1. Предобучение (Pre-train): базовая фильтрация нерелевантного контента по неявным сигналам вовлечения (глубине просмотра) с использованием техники Sampled Softmax.
2. Дообучение (Causal Fine-tune): настройка на целевые действия (лайки, сохранения, полные досмотры). Хронология пользователя делится на отдельные сессии по типам контента с изоляцией префикс-истории. Это исключает утечку данных из будущего и учит модель точно прогнозировать интент непосредственно перед началом сессии.

Кросс-доменная модель «Хеймдаль» и результаты

Для устранения разрыва между короткими и длинными форматами была разработана модель «Хеймдаль». Алгоритм выравнивает баланс данных между сервисами с разной частотой взаимодействий и предсказывает не единичные микродействия, а следующий релевантный объект.

Внедрение кросс-доменного нейропрофиля показало измеримый прирост метрик:

• Время просмотра в VK Клипах увеличилось на 5,5%.
• Показатель общего времени просмотра (TVT) на главной странице VK Видео вырос на 1,1% поверх уже работавших локальных моделей за счёт учета контекста из других сервисов экосистемы.