← Каталог

· AI Engineer World's Fair 2026

Почему рекомендательные системы на базе LLM станут крупнейшим потребительским AI-приложением

Why LLM Recommenders Will Be AI's Biggest Consumer App — Devansh Tandon, Meta

Рекомендательные системы масштабируются по законам, похожим на LLM, и LLM-рекомендеры, по словам спикера, станут одним из крупнейших потребительских применений AI.

  • Контент как токены — видео кодируются в semantic ID примерно из 10 токенов. По словам спикера, трёхминутный рилс без сжатия занимал бы около 10 000 токенов и быстро заполнял бы контекстное окно.
  • Два этапа обучения — pre-training учит модель связывать английский язык с токенами рекомендаций, а post-training учит реранжировать кандидатов с chain of thought. Так видно, почему модель выбрала те или иные ролики.
  • Указатели вместо контента — лента выдаёт ссылку на существующий ролик, а не генерирует его. Спикер оценивает, что стоимость inference на час вовлечённости в такой ленте в 100 раз и более ниже, чем в AI-чатах.
  • Управляемая лента — пользователь добавляет интерес текстом, например интерес к чемпионату мира по футболу, и модель учитывает его вместе с историей просмотров. Спикер приводит похожие интерфейсы в Spotify, YouTube и DoorDash.

Кому полезно: тем, кто строит ленты и рекомендации в продукте и думает о переходе от hash ID к semantic ID.

Статья по теме

Главы

Ещё доклады: Devansh Tandon

Страница спикера →

Похожие доклады