← Каталог

· AI Engineer World's Fair 2025

Когда векторы не справляются: графовый RAG для насыщенных корпоративных знаний

When Vectors Break Down: Graph-Based RAG for Dense Enterprise Knowledge

Векторный поиск ломается на однотипных корпоративных документах, и Writer перешла от него к графу знаний, который хранится как JSON в Lucene-движке и дополнен Fusion-in-Decoder.

  • Чанки ломают факты — при наивном разбиении ближайший сосед может подтянуть соседний факт: в примере с историей Apple год выпуска Macintosh назывался 1983 вместо 1984, потому что он попал в один чанк с Lisa.
  • Граф в поисковике — графовая база при росте стала дорогой, а Cypher плохо справлялся со схожестью; по словам спикера, LLM лучше работают с текстовыми запросами, поэтому граф хранят как JSON в Lucene-поисковике.
  • Своя модель для графа — дообученная модель раскладывает текст по узлам и рёбрам и работает на CPU или небольших GPU, а сегментация учитывает контекст.
  • Fusion-in-Decoder с графом — фрагменты кодируются независимо, что даёт линейное масштабирование вместо квадратичного; по словам авторов, на RobustQA их система обогнала семь векторных систем по точности и скорости.

Кому полезно: тем, кто строит RAG на корпоративных документах с похожей терминологией; спикер называет показанную архитектуру эскизом, а не продовой схемой.

Статья по теме

Главы

Похожие доклады