· AI Engineer World's Fair 2025
Ключевой доклад о рекомендательных системах: улучшение рекомендаций и поиска в эпоху LLMs
Recsys Keynote: Improving Recommendation Systems & Search in the Age of LLMs
Семантические ID, LLM-разметка и унифицированные модели уже дают измеримый прирост в рекомендациях и поиске.
- Семантические ID вместо hash-ID — Kuaishou объединяет эмбеддинги ResNet, BERT и VGGish, кластеризует их через k-means в 1000 кластеров и обучает их вместе с поведением пользователей. По словам автора, это подняло cold start coverage на 3,6%.
- LLM для фильтрации и разметки — Indeed сначала использовал GPT-4 для меток, затем дообучил GPT-3.5 и дистиллировал из неё лёгкий классификатор с AUC ROC 0,86, который работает в реальном времени. По словам автора, после фильтрации плохих рекомендаций отклики выросли на 4%, а отписки снизились на 5%.
- LLM как дополнение к классике — Spotify генерирует исследовательские запросы для подкастов и аудиокниг, а обычные источники (каталог, плейлисты, логи поиска) оставляет основой. По словам автора, доля исследовательских запросов выросла на 9%.
- Одна модель вместо десятка — Netflix UniCoRn сравнялся или превзошёл специализированные модели на нескольких задачах, а Etsy добавил вектор качества к эмбеддингу товара и получил +2,6% конверсии по сайту. Автор предупреждает про alignment tax: задачи могут мешать друг другу, поэтому моделей может понадобиться две-три.
Кому полезно: тем, кто работает с cold start в рекомендациях или поиске и хочет понять, как включить контент товаров в эмбеддинги и где LLM окупается быстрее всего.
Статья по теме
На какие вопросы отвечает доклад
Как semantic IDs с мультимодальным контентом решают проблему холодного старта новых видео?
Kuaishou объединяет эмбеддинги видео из ResNet, BERT и VGGish, кластеризует их k-means в тысячу кластеров и обучает их ID вместе с поведенческими данными. По словам авторов, охват холодного старта вырос на 3,6%.
▶ 1:36Семантические ID и мультимодальная архитектура рекомендаций KuaishouКак заменить дорогую LLM-разметку лёгким классификатором для фильтрации рекомендаций в реальном времени?
Indeed разметил пары резюме и вакансий экспертами, донастроил GPT-3.5 и дистиллировал из неё лёгкий классификатор с AUC ROC 0,86. По словам авторов, отписки снизились на 5%, отклики выросли на 4%.
▶ 5:54Метаданные для поиска и синтетические обучающие данные, созданные LLMКак показать пользователям новые категории контента, если они ищут только песни и исполнителей?
Spotify генерирует поисковые запросы на естественном языке с помощью LLM поверх уже работающих методов, например добычи запросов из каталога и логов, и показывает их над обычной выдачей. По словам авторов, исследовательских запросов стало на 9% больше.
▶ 10:47Поиск подкастов и аудиокниг в SpotifyКогда объединение рекомендаций и поиска в одну модель начинает ухудшать качество отдельных задач?
Netflix строит единый ранжировщик UniCoRn с общей схемой входа и заполняет пропущенный запрос заголовком текущего видео. Модель сравнялась или превзошла специализированные, но при конфликте задач ее может понадобиться разбить на две-три, из-за alignment tax.
▶ 14:30Примеры foundation models и компромиссы многозадачного обученияКак улучшить поиск по редким и слишком общим запросам с учётом предпочтений пользователя?
Etsy использует two-tower модель: текст товаров кодируется T5, история пользователя добавляется признаками, а вектор качества с рейтингом, свежестью и конверсией склеивается с эмбеддингом товара. По словам авторов, конверсия на сайте выросла на 2,6%.
▶ 14:30Примеры foundation models и компромиссы многозадачного обучения
Главы
Ещё доклады: Eugene Yan
Все 4 доклада →Чему мы научились за год разработки с LLM
Charles Frye, Eugene Yan, Jason Liu, Hamel Husain, Dr Bryan Bischof, Shreya Shankar
AI Engineer World's Fair 2024
Как использовать LLM для защиты исходного кода
AI Engineer World's Fair 2026
Копилоты повсюду
AI Engineer World's Fair 2024
Похожие доклады
Современное состояние AI-поиска и извлечения информации
AI Engineer World's Fair 2025
Близко по содержанию
Основные компоненты систем и продуктов на базе LLM
AI Engineer Summit 2023
Тот же спикер: Eugene Yan
Дистиллируйте LLM, а не обслуживайте его: поиск и персонализация в DoorDash
AI Engineer World's Fair 2026
Близко по содержанию
Чему мы научились, используя LLM в Pinterest
AI Engineer World's Fair 2025
Близко по содержанию

