← Каталог

· AI Engineer World's Fair 2025

Методы GraphRAG для оптимизации контекстных окон LLM при поиске

GraphRAG methods to create optimized LLM context windows for Retrieval — Jonathan Larson, Microsoft

GraphRAG, который строит структурированную память по коду, позволяет LLM работать с целым репозиторием там, где обычный RAG и прямой ввод файлов в контекст не справляются.

  • Многофайловые правки в Doom — по словам спикера, агент GitHub Copilot, подключённый к GraphRAG для кода, добавил прыжок игроку в кодовой базе примерно на 100 000 строк и 231 файл, изменив много файлов сразу и получив рабочий результат; другие агенты, по его словам, ломали остальные файлы.
  • Перенос на Rust — прямой запрос к LLM с игрой на 200 строках Python дал Rust-код, который не компилировался, а перевод через GraphRAG для кода запустился целиком.
  • BenchmarkQED — открытый набор из трёх компонентов: AutoQ генерирует вопросы от локальных до глобальных, AutoE оценивает ответы через LLM-as-a-judge, AutoD суммаризирует и семплирует датасет.
  • LazyGraphRAG против vector RAG — по словам авторов, при окнах контекста 8K, 120K и 1M токенов LazyGraphRAG показывает лучшие результаты, а стоимость примерно в десять раз ниже, чем при 1M-контексте.

Кому полезно: тем, кто строит ассистентов для больших кодовых баз и правок в нескольких файлах, и тем, кто хочет измерять качество GraphRAG-подобных систем.

Статья по теме

Главы

Похожие доклады