← Каталог

· AI Engineer World's Fair 2024

Запуск EyeLevel: почему ваш RAG дает сбои на самом деле

EyeLevel Launch: Your RAG is Tripping, Here's the Real Reason Why

Ошибки enterprise RAG, по словам авторов, чаще идут из разбора документов и потери контекста, а не из LLM, и решаются семантическими объектами вместо векторного поиска.

  • Объекты вместо фрагментов — каждый фрагмент хранится вместе с исходным текстом и автогенерированными метаданными (раздел, документ), а текст переписан в два формата: для поиска и для генерации.
  • Компьютерное зрение перед разбором — модель, дообученная на миллионах документов, находит таблицы, рисунки и текст на странице, и каждый тип уходит в свой мультимодальный пайплайн; по словам спикера, обычный OCR рисунков теряет много информации.
  • Поиск по нескольким полям и переранжирование — запрос ищет по всему объекту, затем дообученная LLM переупорядочивает результаты; всего в загрузке и поиске больше девяти дообученных моделей.
  • Цифры авторов — 98% точности на сложных документах в их исследовании, клиенты Air France и Dartmouth говорят о более чем 95% правильных ответов; независимой проверки нет.

Кому полезно: тем, кто строит RAG по сложным корпоративным документам с таблицами и рисунками и видит ошибки уже на этапе извлечения.

Статья по теме

На какие вопросы отвечает доклад

Главы

Похожие доклады