· AI Engineer World's Fair 2025
Как научить Gemini понимать YouTube: адаптация LLM для видеорекомендаций с аудиторией более 2 млрд DAU
Teaching Gemini to Speak YouTube: Adapting LLMs for Video Recommendations to 2B+ DAU
Адаптация Gemini под собственный токенный язык видео даёт YouTube генеративные рекомендации, которые, по словам спикера, стали самым заметным улучшением качества за несколько лет.
- Semantic ID вместо hash-токенов — видео получают токены из мультимодальных эмбеддингов (заголовок, описание, транскрипт, аудио и кадры), квантованных через RQ-VAE. Похожие видео делят общий префикс, а обучение токенизатора проходит без разметки.
- Continued pre-training в два этапа — сначала текст связывается с SID на метаданных видео, затем модель учится на последовательностях просмотров. По словам спикера, она начинает различать темы, например спорт и кино, хотя их явно не размечали.
- Стоимость serving — генеративный retrieval оказался слишком дорогим для миллиардов пользователей, поэтому команда, по её словам, снизила затраты на TPU-инференс более чем на 95%. Для популярных видео без персонализации рекомендации считают офлайн и отдают lookup-таблицей.
- Потеря английского — переобучение на SID-токенах ухудшает языковые способности модели. Команда пробует mixture of experts, где часть экспертов сохраняет работу с текстом.
Кому полезно: тем, кто переносит LLM на рекомендации или на каталог с частым обновлением контента и сталкивается с cold start.
Статья по теме
Главы
Ещё доклады: Devansh Tandon
Страница спикера →Почему рекомендательные системы на базе LLM станут крупнейшим потребительским AI-приложением
AI Engineer World's Fair 2026
Похожие доклады
EMMA от Waymo: как научить автомобили мыслить
AI Engineer World's Fair 2025
Близко по содержанию
Технические основы LLM на низком уровне
AI Engineer World's Fair 2024
Близко по содержанию
Современное состояние AI-поиска и извлечения информации
AI Engineer World's Fair 2025
Близко по содержанию

