← Каталог

· AI Engineer World's Fair 2024

Графы знаний и GraphRAG: методы создания эффективных GenAI-приложений

Knowledge Graphs & GraphRAG: Techniques for Building Effective GenAI Applications

Michael Hunger, Andreas Kolleger и ещё 2 спикераВсе 4Свернуть

Персонализированный RAG строится на графе покупок: векторный поиск дополняется графовыми связями между клиентами и товарами, и выдача меняется от клиента к клиенту.

  • Скоринг поиска — косинусное сходство из векторного индекса Neo4j умножается на счётчик совместных покупок в «пиринговой группе» клиента. Спикер называет это стартовой формулой, а не готовым решением, и признаёт, что нормализация двух скоров остаётся открытым вопросом.
  • Фильтрация по графу — ограничить поиск подграфом клиента можно до векторного поиска, но на разреженном графе это отсекает нужные товары. Поэтому в примере графовый скор применяется после поиска, а при отсутствии покупок выдача идёт только по вектору.
  • Graph embeddings для рекомендаций — FastRP строит 128-мерные векторы по графу покупок, а kNN записывает связи customer also like между товарами. По словам спикера, FastRP считается на графах с миллиардами узлов примерно за полчаса, но при появлении новых данных embeddings приходится пересчитывать.
  • Два источника для промпта — результаты персонализированного поиска и графовые рекомендации передаются в GPT-4o через LangChain. Клиенты с похожими интересами получают разные подборки, если занимают разные места в графе.

Кому полезно: тем, кто строит RAG на структурированных данных о поведении пользователей и хочет персонализировать ответы LLM.

Статья по теме

Главы

Ещё доклады: Michael Hunger

Страница спикера →

Похожие доклады