· AI Engineer World's Fair 2025
Одна модель для всех рекомендаций: большая ставка Netflix
One model to rule recommendations: Netflix's Big Bet
Netflix заменяет набор отдельных рекомендательных моделей одной foundation model на основе трансформера, которая, по словам спикера, даёт выигрыши в A/B-тестах и упрощает инфраструктуру.
- Взаимодействие как токен — каждое событие пользователя несёт много полей (когда, где, что), и выбор полей для токена влияет на качество модели и размер контекста. Цели обучения тоже берутся из разных полей: тип действия, метаданные тайтла, длительность, устройство.
- Масштабирование до миллиарда параметров — за два-два с половиной года модель выросла с нескольких миллионов параметров примерно до миллиарда, и, по словам автора, прирост качества продолжается. Для жёстких требований к задержке большие модели дистиллируют в меньшие.
- ID и семантические эмбеддинги — ID-эмбеддинги, выученные с нуля, не работают для тайтлов, которых не было в обучении, поэтому их дополняют семантическими эмбеддингами, в том числе из графовой модели по knowledge graph.
- Multi-token prediction из LLM — предсказание нескольких следующих действий, по словам автора, заметно улучшило метрики: модель меньше зациклена на одном шаге и устойчивее к сдвигу между обучением и обслуживанием.
Кому полезно: тем, кто строит рекомендации для нескольких продуктов с разнородным контентом и хочет свести отдельные модели к общему представлению пользователя.
Статья по теме
Главы
Похожие доклады
Ключевой доклад о рекомендательных системах: улучшение рекомендаций и поиска в эпоху LLMs
AI Engineer World's Fair 2025
Близко по содержанию
Создание генеративных моделей изображений и видео в больших масштабах
AI Engineer Europe 2026
Близко по содержанию
Банк обучил собственную foundation model для выявления мошенничества
Близко по содержанию
Агентные сайты: создание гиперперсонализированных веб-сайтов
AI Engineer World's Fair 2026
Близко по содержанию

