· AI Engineer World's Fair 2024
Запуск EyeLevel: почему ваш RAG дает сбои на самом деле
EyeLevel Launch: Your RAG is Tripping, Here's the Real Reason Why
Ошибки enterprise RAG, по словам авторов, чаще идут из разбора документов и потери контекста, а не из LLM, и решаются семантическими объектами вместо векторного поиска.
- Объекты вместо фрагментов — каждый фрагмент хранится вместе с исходным текстом и автогенерированными метаданными (раздел, документ), а текст переписан в два формата: для поиска и для генерации.
- Компьютерное зрение перед разбором — модель, дообученная на миллионах документов, находит таблицы, рисунки и текст на странице, и каждый тип уходит в свой мультимодальный пайплайн; по словам спикера, обычный OCR рисунков теряет много информации.
- Поиск по нескольким полям и переранжирование — запрос ищет по всему объекту, затем дообученная LLM переупорядочивает результаты; всего в загрузке и поиске больше девяти дообученных моделей.
- Цифры авторов — 98% точности на сложных документах в их исследовании, клиенты Air France и Dartmouth говорят о более чем 95% правильных ответов; независимой проверки нет.
Кому полезно: тем, кто строит RAG по сложным корпоративным документам с таблицами и рисунками и видит ошибки уже на этапе извлечения.
Статья по теме
На какие вопросы отвечает доклад
Почему RAG-система на сложных корпоративных документах даёт много галлюцинаций?
По словам спикера, ошибки чаще возникают не из-за модели или промпта, а из-за извлечения контента: плохой текст, потерянный при чанкинге контекст и невыделенные таблицы и рисунки. По его опыту, частота ошибок доходит до 35%.
▶ 0:00Введение и почему корпоративный RAG не работаетКак не терять контекст секции и документа при разбиении на чанки для RAG?
Спикер предлагает semantic objects: исходный текст чанка, автоматически сгенерированные метаданные о разделе и документе, а также две переписанные версии текста, для поиска и для генерации.
▶ 3:01Кейс Air France и мультимодальная загрузка документовКак извлекать таблицы и рисунки из PDF для RAG?
Сначала vision-модель, дообученная на миллионах документов, находит на странице таблицы, рисунки и текст, затем каждый тип проходит свой мультимодальный пайплайн извлечения.
▶ 3:01Кейс Air France и мультимодальная загрузка документовНужна ли векторная база данных для RAG по сложным документам?
Спикер считает, что векторная база не всегда лучший выбор: его платформа ищет по нескольким полям semantic objects, а не по векторам.
▶ 1:44Проблемы загрузки данных, заявленная точность и альтернативы векторным базам данныхКак LLM-реранкинг повышает точность поиска в RAG?
Запрос переписывается в формат объектов, поиск идёт по тексту, метаданным и поисковой версии, затем результаты переранжирует дообученная LLM. Авторы заявляют 98% точности на своём тесте, независимой проверки нет.
▶ 4:30Потеря информации при OCR, reranking и приглашение попробовать продукт
Главы
Похожие доклады
RAG для руководителей AI-направлений
AI Engineer World's Fair 2024
Близко по содержанию
От обработки документов до agents: как AI-команды строят на их основе
AI Engineer World's Fair 2026
Близко по содержанию
OpenRAG: open source-стек для RAG
AI Engineer Europe 2026
Близко по содержанию
Создание платформы на базе агентов
AI Engineer World's Fair 2025
Близко по содержанию

