· AI Engineer World's Fair 2025
Как Instacart преобразовала поиск и рекомендации с помощью LLM
How Instacart transformed its search and discovery using an LLM-driven approach
LLM улучшают поиск Instacart, если передавать им данные о поведении покупателей, а именно категории с высокой конверсией и типичные последующие запросы, по словам авторов.
- Конверсионный контекст в классификации — модели получают топ-K категорий по конверсии для запроса из таксономии примерно в 10 тысяч категорий, иначе LLM относила «protein» к курице и тофу, хотя покупатели ищут протеиновые батончики. По словам авторов, на хвостовых запросах точность выросла больше чем на 18 процентных пунктов, полнота больше чем на 70.
- Переписывание запросов по типам — для запроса «авокадовое масло» модель предлагает замену (оливковое масло), более широкий вариант (масло для готовки) и синоним (экстракт авокадо). По словам авторов, онлайн заметно сократилось число запросов, по которым не находилось ни одного товара.
- Пакетная обработка и кэш — головные и средние запросы обрабатываются офлайн пакетно и отдаются из кэша, чтобы не тратить латентность на онлайн-вызовы. Для длинного хвоста авторы пробуют заменить старые модели дистиллированной Llama 8B.
- Поведенческий контекст для блоков с новыми товарами — в промпт для блоков со смежными товарами добавляют конверсионные категории и последующие запросы пользователей. Стандартные PCTR и PCVR модели для такого контента не сработали, помогла переранжировка с учётом разнообразия.
Кому полезно: тем, кто строит поиск и понимание запросов в онлайн-продуктовой торговле и думает, как закрыть хвост запросов без онлайн-вызовов LLM.
Статья по теме
Главы
Похожие доклады
Дистиллируйте LLM, а не обслуживайте его: поиск и персонализация в DoorDash
AI Engineer World's Fair 2026
Близко по содержанию
RAG в масштабе: готовые к production GenAI-приложения с Azure AI Search
AI Engineer World's Fair 2024
Близко по содержанию
Поиск по ключевым словам умирает. Готов ли ваш каталог к AI agents?
AI Engineer World's Fair 2026
Близко по содержанию
Современное состояние AI-поиска и извлечения информации
AI Engineer World's Fair 2025
Близко по содержанию
