← Каталог

· AI Engineer Europe 2026

OpenRAG: open source-стек для RAG

OpenRAG: An open-source stack for RAG — Phil Nash

OpenRAG — открытый стек IBM для RAG из Docling, OpenSearch и Langflow, который можно развернуть полностью офлайн и настроить под свои данные.

  • Парсинг документов через Docling — пайплайн из нескольких небольших моделей отвечает за таблицы, изображения и OCR, а однопроходная VLM Granite-Docling на 258 млн параметров отдаёт структуру документа в формате DocTags. Для сканов и сложных PDF это проще, чем собирать цепочку парсеров самостоятельно.
  • Агентный поиск вместо top-K — агент сам решает, какие запросы делать и сколько раз искать, а не получает один набор чанков и надеется, что ответ в нём есть.
  • Гибридный поиск в OpenSearch — векторный и лексический поиск работают из коробки, а фильтры по метаданным позволяют ограничить ответ конкретными документами. По умолчанию используется плагин JVector на основе DiskANN, поэтому индекс не обязан целиком помещаться в память.
  • Офлайн-развёртывание — вся система работает на локальных моделях через Ollama, а Docling запускается без внешних сервисов в закрытых контурах.

Кому полезно: тем, кто строит RAG по PDF и сканам и хочет открытую основу, которую можно развернуть без внешних API. Доклад презентует продукт IBM, поэтому полезнее всего здесь архитектура, а не демо.

Статья по теме

Главы

Похожие доклады