← Каталог

· AI Engineer World's Fair 2025

Как научить Gemini понимать YouTube: адаптация LLM для видеорекомендаций с аудиторией более 2 млрд DAU

Teaching Gemini to Speak YouTube: Adapting LLMs for Video Recommendations to 2B+ DAU

Адаптация Gemini под собственный токенный язык видео даёт YouTube генеративные рекомендации, которые, по словам спикера, стали самым заметным улучшением качества за несколько лет.

  • Semantic ID вместо hash-токенов — видео получают токены из мультимодальных эмбеддингов (заголовок, описание, транскрипт, аудио и кадры), квантованных через RQ-VAE. Похожие видео делят общий префикс, а обучение токенизатора проходит без разметки.
  • Continued pre-training в два этапа — сначала текст связывается с SID на метаданных видео, затем модель учится на последовательностях просмотров. По словам спикера, она начинает различать темы, например спорт и кино, хотя их явно не размечали.
  • Стоимость serving — генеративный retrieval оказался слишком дорогим для миллиардов пользователей, поэтому команда, по её словам, снизила затраты на TPU-инференс более чем на 95%. Для популярных видео без персонализации рекомендации считают офлайн и отдают lookup-таблицей.
  • Потеря английского — переобучение на SID-токенах ухудшает языковые способности модели. Команда пробует mixture of experts, где часть экспертов сохраняет работу с текстом.

Кому полезно: тем, кто переносит LLM на рекомендации или на каталог с частым обновлением контента и сталкивается с cold start.

Статья по теме

Главы

Ещё доклады: Devansh Tandon

Страница спикера →

Похожие доклады