← Каталог

· AI Engineer World's Fair 2025

Ключевой доклад о рекомендательных системах: улучшение рекомендаций и поиска в эпоху LLMs

Recsys Keynote: Improving Recommendation Systems & Search in the Age of LLMs

Семантические ID, LLM-разметка и унифицированные модели уже дают измеримый прирост в рекомендациях и поиске.

  • Семантические ID вместо hash-ID — Kuaishou объединяет эмбеддинги ResNet, BERT и VGGish, кластеризует их через k-means в 1000 кластеров и обучает их вместе с поведением пользователей. По словам автора, это подняло cold start coverage на 3,6%.
  • LLM для фильтрации и разметки — Indeed сначала использовал GPT-4 для меток, затем дообучил GPT-3.5 и дистиллировал из неё лёгкий классификатор с AUC ROC 0,86, который работает в реальном времени. По словам автора, после фильтрации плохих рекомендаций отклики выросли на 4%, а отписки снизились на 5%.
  • LLM как дополнение к классике — Spotify генерирует исследовательские запросы для подкастов и аудиокниг, а обычные источники (каталог, плейлисты, логи поиска) оставляет основой. По словам автора, доля исследовательских запросов выросла на 9%.
  • Одна модель вместо десятка — Netflix UniCoRn сравнялся или превзошёл специализированные модели на нескольких задачах, а Etsy добавил вектор качества к эмбеддингу товара и получил +2,6% конверсии по сайту. Автор предупреждает про alignment tax: задачи могут мешать друг другу, поэтому моделей может понадобиться две-три.

Кому полезно: тем, кто работает с cold start в рекомендациях или поиске и хочет понять, как включить контент товаров в эмбеддинги и где LLM окупается быстрее всего.

Статья по теме

На какие вопросы отвечает доклад

  • Как semantic IDs с мультимодальным контентом решают проблему холодного старта новых видео?

    Kuaishou объединяет эмбеддинги видео из ResNet, BERT и VGGish, кластеризует их k-means в тысячу кластеров и обучает их ID вместе с поведенческими данными. По словам авторов, охват холодного старта вырос на 3,6%.

    ▶ 1:36Семантические ID и мультимодальная архитектура рекомендаций Kuaishou
  • Как заменить дорогую LLM-разметку лёгким классификатором для фильтрации рекомендаций в реальном времени?

    Indeed разметил пары резюме и вакансий экспертами, донастроил GPT-3.5 и дистиллировал из неё лёгкий классификатор с AUC ROC 0,86. По словам авторов, отписки снизились на 5%, отклики выросли на 4%.

    ▶ 5:54Метаданные для поиска и синтетические обучающие данные, созданные LLM
  • Как показать пользователям новые категории контента, если они ищут только песни и исполнителей?

    Spotify генерирует поисковые запросы на естественном языке с помощью LLM поверх уже работающих методов, например добычи запросов из каталога и логов, и показывает их над обычной выдачей. По словам авторов, исследовательских запросов стало на 9% больше.

    ▶ 10:47Поиск подкастов и аудиокниг в Spotify
  • Когда объединение рекомендаций и поиска в одну модель начинает ухудшать качество отдельных задач?

    Netflix строит единый ранжировщик UniCoRn с общей схемой входа и заполняет пропущенный запрос заголовком текущего видео. Модель сравнялась или превзошла специализированные, но при конфликте задач ее может понадобиться разбить на две-три, из-за alignment tax.

    ▶ 14:30Примеры foundation models и компромиссы многозадачного обучения
  • Как улучшить поиск по редким и слишком общим запросам с учётом предпочтений пользователя?

    Etsy использует two-tower модель: текст товаров кодируется T5, история пользователя добавляется признаками, а вектор качества с рейтингом, свежестью и конверсией склеивается с эмбеддингом товара. По словам авторов, конверсия на сайте выросла на 2,6%.

    ▶ 14:30Примеры foundation models и компромиссы многозадачного обучения

Главы

Ещё доклады: Eugene Yan

Все 4 доклада →

Похожие доклады