← Каталог

· AI Engineer World's Fair 2025

Как Instacart преобразовала поиск и рекомендации с помощью LLM

How Instacart transformed its search and discovery using an LLM-driven approach

LLM улучшают поиск Instacart, если передавать им данные о поведении покупателей, а именно категории с высокой конверсией и типичные последующие запросы, по словам авторов.

  • Конверсионный контекст в классификации — модели получают топ-K категорий по конверсии для запроса из таксономии примерно в 10 тысяч категорий, иначе LLM относила «protein» к курице и тофу, хотя покупатели ищут протеиновые батончики. По словам авторов, на хвостовых запросах точность выросла больше чем на 18 процентных пунктов, полнота больше чем на 70.
  • Переписывание запросов по типам — для запроса «авокадовое масло» модель предлагает замену (оливковое масло), более широкий вариант (масло для готовки) и синоним (экстракт авокадо). По словам авторов, онлайн заметно сократилось число запросов, по которым не находилось ни одного товара.
  • Пакетная обработка и кэш — головные и средние запросы обрабатываются офлайн пакетно и отдаются из кэша, чтобы не тратить латентность на онлайн-вызовы. Для длинного хвоста авторы пробуют заменить старые модели дистиллированной Llama 8B.
  • Поведенческий контекст для блоков с новыми товарами — в промпт для блоков со смежными товарами добавляют конверсионные категории и последующие запросы пользователей. Стандартные PCTR и PCVR модели для такого контента не сработали, помогла переранжировка с учётом разнообразия.

Кому полезно: тем, кто строит поиск и понимание запросов в онлайн-продуктовой торговле и думает, как закрыть хвост запросов без онлайн-вызовов LLM.

Статья по теме

Главы

Похожие доклады