· AI Engineer World's Fair 2024
RAG для руководителей AI-направлений
RAG for VPs of AI
Качество парсинга документов важнее выбора векторной базы: плохо разобранные таблицы и PDF порождают галлюцинации в RAG-системе.
- Своя сборка вместо готового инструмента — разработчики быстрее адаптируют RAG к новым техникам, а готовые решения, купленные через закупки, медленно меняются вслед за технологиями.
- Парсинг важнее модели — наивный парсер схлопывает таблицы и числа в сплошной текст, и LLM начинает выдумывать значения; парсер, который сохраняет пространственную раскладку, по словам авторов, лучше справляется с таблицами.
- Фиксированные чанки ломают данные — разбиение по 1024 токенам режет таблицы и страницы пополам, а подобрать размер без датасета для оценки и сквозного тестирования нельзя.
- Длинный контекст не отменяет retrieval — при миллиардах документов нельзя подавать всё в каждый запрос, а кэширование контекста дорогое и непрозрачное, поэтому внешнее хранилище нужно и дальше; по мнению спикера, мелкие чанки внутри страницы могут уйти.
Кому полезно: тем, кто строит RAG по корпоративным документам с таблицами и PDF и выбирает между готовым продуктом и собственной сборкой. Доклад во многом рассказывает о продуктах LlamaIndex, но инженерная часть про парсинг и чанки применима без них.
Статья по теме
Главы
Ещё доклады: Jerry Liu
Все 4 доклада →Создание слоя контекста документов для AI agents
AI Engineer World's Fair 2026
Как довести RAG до production: поиск, оценка и анализ ошибок
AI Engineer Summit 2023
Будущее ассистентов по работе со знаниями
AI Engineer World's Fair 2024
Похожие доклады
Как создавать AI agents для автоматизации интеллектуальной работы
AI Engineer World's Fair 2025
Тот же спикер: Jerry Liu
Llama 3 со скоростью 1000 токенов/с на AI-платформе SambaNova
Rachelle Mattern, Petro Milan, Varun Krishna
AI Engineer World's Fair 2024
Близко по содержанию
Cohere для руководителей AI-направлений
AI Engineer World's Fair 2024
Близко по содержанию

