← Каталог

· AI Engineer World's Fair 2025

Одна модель для всех рекомендаций: большая ставка Netflix

One model to rule recommendations: Netflix's Big Bet

Netflix заменяет набор отдельных рекомендательных моделей одной foundation model на основе трансформера, которая, по словам спикера, даёт выигрыши в A/B-тестах и упрощает инфраструктуру.

  • Взаимодействие как токен — каждое событие пользователя несёт много полей (когда, где, что), и выбор полей для токена влияет на качество модели и размер контекста. Цели обучения тоже берутся из разных полей: тип действия, метаданные тайтла, длительность, устройство.
  • Масштабирование до миллиарда параметров — за два-два с половиной года модель выросла с нескольких миллионов параметров примерно до миллиарда, и, по словам автора, прирост качества продолжается. Для жёстких требований к задержке большие модели дистиллируют в меньшие.
  • ID и семантические эмбеддинги — ID-эмбеддинги, выученные с нуля, не работают для тайтлов, которых не было в обучении, поэтому их дополняют семантическими эмбеддингами, в том числе из графовой модели по knowledge graph.
  • Multi-token prediction из LLM — предсказание нескольких следующих действий, по словам автора, заметно улучшило метрики: модель меньше зациклена на одном шаге и устойчивее к сдвигу между обучением и обслуживанием.

Кому полезно: тем, кто строит рекомендации для нескольких продуктов с разнородным контентом и хочет свести отдельные модели к общему представлению пользователя.

Статья по теме

Главы

Похожие доклады