· AI Engineer World's Fair 2026
Почему рекомендательные системы на базе LLM станут крупнейшим потребительским AI-приложением
Why LLM Recommenders Will Be AI's Biggest Consumer App — Devansh Tandon, Meta
Рекомендательные системы масштабируются по законам, похожим на LLM, и LLM-рекомендеры, по словам спикера, станут одним из крупнейших потребительских применений AI.
- Контент как токены — видео кодируются в semantic ID примерно из 10 токенов. По словам спикера, трёхминутный рилс без сжатия занимал бы около 10 000 токенов и быстро заполнял бы контекстное окно.
- Два этапа обучения — pre-training учит модель связывать английский язык с токенами рекомендаций, а post-training учит реранжировать кандидатов с chain of thought. Так видно, почему модель выбрала те или иные ролики.
- Указатели вместо контента — лента выдаёт ссылку на существующий ролик, а не генерирует его. Спикер оценивает, что стоимость inference на час вовлечённости в такой ленте в 100 раз и более ниже, чем в AI-чатах.
- Управляемая лента — пользователь добавляет интерес текстом, например интерес к чемпионату мира по футболу, и модель учитывает его вместе с историей просмотров. Спикер приводит похожие интерфейсы в Spotify, YouTube и DoorDash.
Кому полезно: тем, кто строит ленты и рекомендации в продукте и думает о переходе от hash ID к semantic ID.
Статья по теме
Главы
Ещё доклады: Devansh Tandon
Страница спикера →Похожие доклады
Ключевой доклад о рекомендательных системах: улучшение рекомендаций и поиска в эпоху LLMs
AI Engineer World's Fair 2025
Близко по содержанию
Дистиллируйте LLM, а не обслуживайте его: поиск и персонализация в DoorDash
AI Engineer World's Fair 2026
Близко по содержанию
Чему мы научились, используя LLM в Pinterest
AI Engineer World's Fair 2025
Близко по содержанию

